原来如此

现在科技之发达,人工智慧软体发展卓越,许多产业也不乏 AI 替人类代劳,不过你知道吗?AI 其实也满容易出纰漏的,Meta 在 11/15 宣布新的 AI 机器人 Galactica,这个机器人透过学习共 4,800 万个文章、网站、教科书、讲义和百科全书,拥有归纳学术论文、生成百科文章、算数学、编写程式等功能,看起来非常实用的一个 AI,却在开启後两天即被关闭,原因竟是演算结果内含过多假资讯!听起来非常荒谬,但其实 AI 出错是可以追溯原因的,今天就来盘点 7 个常见 AI 出错的理由吧

理由一:缺乏延展性

普遍的人类在看到一张被翻转的图片时,心里会自动将其翻转,并可以准确判断图中内容物,这项任务即使是幼童也能做到,不过因为 AI 只能识别它曾经见过的模式,因此如果以不同的模式予以演算,通常结果就容易出错,如此即称作缺乏延展性;2018 年时有研究指出,如果你拍一张校车的照片,然後将其 90 度翻转(大约就是发生事故翻车的状态),此时即使是最先进的 AI,有 97% 的机率会无法辨识出那是一台校车,反而会判定其为一台扫雪机,不过只要是正放时,它们都认得出那是一台校车,这种缺乏延展性的情况,有时也是医学扫描会误诊的原因之一

理由二:植入式偏见

近年来 AI 渐渐被用来帮助人们下一些重大决策,比如是否核发贷款、量刑刑期长短,或者判定哪位病人可以优先获得健保名额等,这类决策对相关人士来说意义重大,这时如果 AI 有偏见,会自动演算出具有歧视的决定,也造成社会的隐忧;实际案例发生在 2019 年的美国,科学家发现美国全国部署的医疗保健 AI 存在种族歧视,而这影响了数百万美国人,该 AI 会帮忙判断哪些病患可以在重症照护计划中受益最多,但却经常让更健康的白人排序优於状况较差的黑人,原因是 AI 误以爲在医疗上花费更高的病人,病情绝对更加严重

理由三:灾难性遗忘

灾难性遗忘是一种经常发生在 AI 上的现象,意指 AI 在学习新的方式後,就会忘记如何使用旧的方法,简单来说就是——AI 的记忆力不太好!以近几年来盛行,用来伪造假影音的 Deepfake 技术为例,光是制造拟真换脸的 AI 就很多,它们很多是用不同的方式在创造 Deepfake 内容,如果要进行识别,那识别的 AI 也就需要学习不同的识别方式,但由於灾难性遗忘的现象,要训练出一个可以全面识破的 AI 需要时间 

理由四:演算结果缺乏可解释性

你有没有想过,假如 AI 判定一张图像为火柴时,到底是因为木棍还是火焰让 AI 产生如此判决?AI 在现代已经算相当进步,不过相信还是很多人难以理解 AI 的演算结果,当 AI 下判决时,判定依据往往是大家最好奇的,不过科学家却表示,在询问 AI 判定的原因时,即使是同一个结果,它也会给出不同的答案,这也让演算结果的可解释性变得不稳定,说到这里,我想到之前玩 Midjourney 的时候,同一组关键字,在不同时候输入,就会产生不同结果,是不是也是一样道理呀(?)

理由五:量化资讯造成误判

2016 年的美国,一台开着自动驾驶的特斯拉 Model S,与前方左转卡车相撞,驾驶当场死亡,这也是首起被通报的,因自动驾驶而造成的车祸,车祸发生当下,不论是驾驶或自动驾驶系统,两者都无法准确判断拖拉机挂车车身的白色与天空的差异,因此没有踩下煞车,这个事件就说明了人工智慧系统会透过大量量化的资讯,进而坚信一个错误的决定,造成失准的判断

理由六:缺乏常识

AI 毕竟是机器,它有时会缺乏常识,比如科学家可能会训练 AI 检测散布在日常中的恶意发言,这看起来很简单,然而当这个 AI 在现实中被使用时,它很可能无法理解黑人或同性恋者,会对自己族群使用看似歧视的字眼,而错误地归类他们的发言为仇恨言论,在相同情况下,人类则可以很好的辨识出哪些是真正的恶意言论,换句话说,AI 因为缺乏常识,而无法判断出人类在说话时展现的语境 

理由七:数学不好

虽然传统电脑的算术能力很好,不过你会很惊讶地发现,同为机器的 AI 并不擅长数学,即使你以最新的处理器建造它,且训练它做很多数学题,但它的解题能力仍旧不及一台简单的计算机。研究显示,科学家即使对 AI 进行了数十万个算数训练,再让 AI 解答来自高中数学竞赛题库中的 12,500 个问题时,它却只有大约 5% 的准确率;目前还不确定为什麽 AI 不擅长数学,其中一种可能性是,它们是像人脑一样,以高度并行的方式解决问题,而数学题则通常需要一长串的步骤来解决,所以 AI 对数据的处理,可能本来就不适合拿来解数学

小结

随着人工智慧越来越发达,人们当然可以适当利用科技为我们带来的便利,不过也不能过度依赖、全然信任机器,随时去思考演算结果的正确可取性方为上策!是说最近听说有个名为 Notion 的新 AI,功能是会……写文章?不过在我看完以上 7 大 AI 要面对的困难以後,暂时还不担心失业啦 XD

(参考资料:CENTIEEEThe Verge

surfshark是什么