AI 濫用
leafwind
主理
5 人追蹤
2 篇作品
leafwind

設計與使用 AI 的責任分散問題

如果 AI 100% 準確,問題就解決了嗎?在上篇《演算法的偏見與歧視如何形成》我整理了一些 AI 可能加深偏見與歧視的設計瑕疵,現今已經有眾多研究領域致力於減少演算法的偏見,這是一個在研究領域早就被意識到的問題。然而 AI 有沒有偏見、或者夠不夠精準,真的是最重要的問題嗎?

82
leafwind

演算法的偏見與歧視如何形成

演算法為何會有缺陷有人發現,某些演算法在還不夠準確的時候,會傾向利用「現實中的偏差」讓結果更接近目標,而這個小聰明會在無意中「放大」了原本真實世界的歧視。這種技巧就類似於我們發現老師喜歡在選擇題放答案為 C 選項的題目,於是所有人便盲目地猜 C,雖然分數提高了,但並不是真的學到了知識。

109
2