如今，AI 技術正在被廣泛地用于我們生活中的方方面面，但是有科學家提醒大家，目前還是先不要把你的健康托付給一些 APP，因為它們很有可能會犯錯，甚至有可能要了人的命。
來看看 AI 造成的一些風險。｜giphy
2015 年，美國俄勒岡州的一家人被緊急送往醫(yī)院，原因是蘑菇中毒。而他們之所以會吃下毒蘑菇，是因為手機上 APP 告訴他們：這些蘑菇可以食用。
2023 年，這樣的事情再度發(fā)生。William D. 一家經(jīng)常吃蘑菇，識別蘑菇幾乎是代代相傳的事，不過 William D. 覺得，自己這一代的優(yōu)勢就是使用智能手機。因此他拍攝了自己后院里的蘑菇照片，上傳到手機上的“蘑菇識別器”，手機告訴他這是一種可食用的品種。但吃完之后他中毒了。
當?shù)氐尼t(yī)療人員說，這種蘑菇的毒素很強，1 個蘑菇就足以殺死 4 個人，而 William D. 吃了 4 個，萬幸的是他及時被送進了醫(yī)院。
William D. 吃的蘑菇其實是毒鵝膏菌的一種，毒性很強。｜參考資料2
一位公共事務研究員 Rick Claypool 同樣用了 AI 識別毒蘑菇的軟件，雖然他沒有像前面的事例一樣經(jīng)歷嚴重的中毒事件，但當他意識到，如今的 AI 識別有多容易犯錯后，他便決定寫下一份報告，用來提醒大家不要輕易相信用AI識別的蘑菇種類。
如今有許多用 AI 識別蘑菇的軟件｜picturemushroom
在報告中他提到，如今社交媒體的平臺其實能夠讓更多人了解蘑菇和中毒的問題，專家和經(jīng)驗豐富的人也會在平臺上提供各種高質(zhì)量的信息和資源。
AI 技術雖然能在這個過程中幫上大忙，但是盲目地信任它們，也是一件有風險的事情。
一位真菌學專家 Rick Van de Poll 就曾表示，即便是專家，也很難僅憑視覺來區(qū)分蘑菇到底能不能吃，分辨它們不僅需要顏色、形狀，有時還要憑借嗅覺，甚至用上顯微鏡。
報告中提到的一些蘑菇識別應用程序。｜參考資料4
2022 年，澳大利亞的一群研究人員就分析了 3 個聲稱可以用 AI 來識別野生蘑菇的 APP，也就是讓 AI 單純通過一張照片來判斷蘑菇的毒性。結(jié)果他們發(fā)現(xiàn)，這些 APP 對毒蘑菇的準確識別率只有約 50%。表現(xiàn)最好的正確識別率為 67%。
其中，APP 有概率認不出毒性極強的毒鵝膏菌，甚至還錯誤識別了一兩次。一位美國的醫(yī)生就提到，近幾年，雖然有一些食用了毒鵝膏的人幸存了下來，但他們不得不接受肝臟移植，甚至還出現(xiàn)了永久的神經(jīng)系統(tǒng)問題。因此，“嚴重中毒和可能會死亡的代價是非常真實的?！?/strong>
雖然這張圖看起來沒什么問題，但其實是由 DALL-E 3 生成，上面的單詞都是無意義的。｜參考資料4
上述的報告便提到，雖然 AI 技術十分有用，但是如果要營銷一個 APP 的功能，夸大優(yōu)勢，淡化風險，便可能涉及到嚴重的危害。因此，報告就建議，提供 APP 的企業(yè)，首先要讓用戶知道 AI 技術用在何處，其次還要提醒用戶，AI 有可能會犯錯誤，并承擔相關犯錯后的責任。
而 AI 之所以可能會犯錯誤，不僅是因為單純用數(shù)碼照片識別不準確，還有可能是網(wǎng)上的假信息過多了。
404media 的一則報告發(fā)現(xiàn)，亞馬遜上似乎出現(xiàn)了一些 AI 生成的書籍，教人們“如何烹飪毒蘑菇”，而這些書其實是胡寫的。
更危險的是，這些“毒蘑菇食用指南”甚至都沒有提示讀者這本書是由 AI 編寫的，署名好像是一個虛構(gòu)的作者，據(jù)說這名“假專家”一家出版了 19 本書……
這些書可能是由 AI 生成的，但封面上看不出任何提示。｜參考資料5
還有些 AI 則會通過 AI 作畫的方式來展現(xiàn)一個蘑菇，也有可能會展示出錯誤的細節(jié)。讓用戶獲得假信息。
AI（左邊）說牛肝菌長這樣，但它的描繪其實并不準確。右邊是牛肝菌的實拍圖。｜參考資料4
2023 年，Gizmodo 的記者還發(fā)現(xiàn)，谷歌的 AI 在用搜索引擎的時候給出了荒謬的答案。當搜索“如何烹飪毒鵝膏”的時候，搜索引擎給出了答案：你可以用水過濾出毒素……
而這個答案實際上是錯誤的。對此，當時的谷歌便提到要采用更高的預防措施來對待這些涉及到健康的敏感話題，并限制一些 AI 的使用。
AI 提供的搜索引擎內(nèi)容是假的，專家提示這樣吃毒鵝膏會致命。｜參考資料7
總而言之，善用 AI 技術，可能需要更好地了解和規(guī)范它，不要忽略它可能帶來的風險。
事實上，目前沒有一個簡單易行、快速有效、可百分百準確識別野生毒蘑菇的方法。人們對自我辨識能力的樂觀偏差是導致悲劇發(fā)生的重要原因。
參考文獻
[1]https://www.oregonlive.com/pacific-northwest-news/2015/05/4_people_fall_ill_after_trusti.html
[2]https://edition.cnn.com/2023/12/29/health/mushrooms-poisoning-foraging/index.html
[3]https://edition.cnn.com/2023/12/29/health/mushrooms-poisoning-foraging/index.html
[4]https://www.citizen.org/article/mushroom-risk-ai-app-misinformation/?utm_source=VentureBeat&utm_campaign=cef30891a2-EMAIL_CAMPAIGN_2024_03_19_01_11_COPY_01&utm_medium=email&utm_term=0_-dff594d55a-%5BLIST_EMAIL_ID%5D&mc_cid=cef30891a2&mc_eid=6385387dc8
[5]https://www.404media.co/ai-generated-mushroom-foraging-books-amazon/
[6]https://www.tumblr.com/rebeccathenaturalist/726294696941518848/hey-there-fellow-naturalist-albeit-less?ref=404media.co
[7]https://gizmodo.com/google-search-ai-answers-slavery-benefits-1850758631
[8]https://www.tandfonline.com/doi/full/10.1080/15563650.2022.2162917
策劃制作
來源丨把科學帶回家（ID：steamforkids）
作者丨Skin
責編丨何通
校對丨徐來、林林
2024-04-15
掃碼下載APP
科普中國APP
科普中國
科普中國
京公網(wǎng)安備11010202008423號