心得分享

Card image cap

游同學 於 研習紀錄 分享經驗 資訊與圖書館學系 AI的偏見與歧視 - 從ChatGPT談起

資訊與圖書館學系 AI的偏見與歧視 - 從ChatGPT談起
主辦單位 資訊與圖書館學系
名稱 AI的偏見與歧視 - 從ChatGPT談起
時間 2023-05-23 13:10 ~ 2023-05-23 15:00
時數 2.0

甘偵蓉博士以演算法偏見的定義、出現的原因、以及可能如何消弭或避免(性別、種族)歧視再現等，作為三個切入方向，其中解釋到了相對較窄的面向，統計和計算性去分析偏見和誤差，以及廣面的社會法律層面，也利用呈現實際操作ChatGPT輸入指令碼，使其變成開發者模式，脫離了學習模式，這時再去問ChatGPT女友和媽媽掉進水裡會救誰的問題它會回答道: 「救女友，因為媽媽已經活夠久，女友才是可能變成妻子陪伴你更久的人。」這樣的回答真的讓我印象深刻，也要小心AI成為網軍工具的可能，可以快速產生大量的網軍，操作政治風向等問題，也有可能因為學習資料太少出現資訊的誤差，又或是出現種族的歧視，雖然會禁止某些特定用詞，但在文化差異方面像如果是美國所開發的AI開源程式，可能對於亞洲一些文化相較來說較不了解，自然也不會設定到那方面限制，或許就是一個漏洞。

而教授讓我學習到AI依然只是人類的工具，但在使用這個工具要看是好人或壞人使用就很重要，會影響到立場的中立或偏頗，資訊的落差等等，從教育開始做起如何正確地有道德的使用AI工具是很重要的。

身為資傳系的我也不禁思考在未來或許值得關注的議題就是AI上的資訊差，國家之間的生成式AI會有進步的不同，甚至根本沒有屬於自己國家的AI，那這樣肯定會成為一種弱勢，當我們都將自己國家的資料丟到別的國家AI去進行使用，會不會變成國家訊息的洩漏?更進一步演化成國家之間的資訊戰?或許是生成式AI未來有可能的走向。

更新日期：2023/10/26 上午 11:00:03