NechoYan

河北-->天津 --> 西安-->香港-->英国 大学教书,偶尔写作,愿意思考,诚心分享。

机器觉醒?人工智能当下的危险

 (編輯過)
人工智能不仅在改变我们的生活,也带来的可能的危险。人工智能现实的危险是什么?

今天聊聊人工智能。

这几年火热的人工智能其实并不是一个新概念。2016年谷歌的AlphaGo在围棋比赛中战胜李世石,人工智能再一次引起了各行各业的关注。谷歌DeepMind在人工智能上的突破,也促成了人工智能技术在各行各业的应用尝试。

人脸识别,语音识别,文字识别,机器翻译,自动驾驶系统,推荐系统等等这些基于人工智能的应用正在改变着相关的各个行业,也在改变着我们的生活。同时人们又一次开始担心人工智能的潜在危险。

谈起人工智能、机器学习的危险,我们常常会联想到机器的觉醒,原本服务人类的机器开始反抗,甚至要与人类为敌。但AI和机器学习对人类的挑战,以目前的发展水平,显然机器觉醒还不是人类目前所应该担心的。

但机器学习的广泛采用也确确实实对人类造成了切实存在的威胁。目前现实生活中人工智能的两大主要应用是图像识别和推荐系统。其中图像识别,特别是人脸识别,正面临严厉的监管。人们一方面担心信息泄露,另一方面担心个人信息误用。而随着监管的深入,人脸识别所带来对个人隐私的侵犯,尚不足成为主要的威胁。

推荐系统是机器学习的另一个重要的应用。基本上目前我们所用的各种网络服务都采用了基于AI的推荐系统。我们常常会惊讶系统推荐的准确性。打开购物软件,心里想的东西可能已经出现在推荐框了。刚看完一个视频,类似一大堆的视频跳出来,不知不觉已经过去大半天。人工智能通过观察和分析用户行为,给用户推荐最适合的产品与服务,这看起来完全是人畜无害。当然也不会面临太多的监管,但也正因如此,这种人工智能系统对人类个体构成了实实在在的威胁。

人工智能在一定程度上,特别是在言论自由有限的空间,正在重塑我们的意识,并加深群体偏见。人类的决策其实也是一种算法,其中个人经验和通过视听所获取的他人经验,是个人做出决策的关键。随着人们花在视频和网页阅读上的时间越来越长,甚至于超过和现实互动的时间。相比社交活动,人们更愿意躲在家里看视频。虚拟网络空间占用的时间甚至超过了人们和真实世界的互动。在这种情况下,这些视听内容将和现实世界一样会逐渐改变我们的认知,从而也一定程度上影响我们的决策。在承载这些视听材料的网站,人工智能技术被引入,引导用户发现内容,并占用用户尽可能多的时间。对网站来说,引入人工智能的目的不是提高信息的中立性,而是为了增加网站和视频的点击率。其中一个例子是基于人工智能推荐的新闻网站。人工智能将点击率、阅读时间、点赞、评论、转发包括点赞进行量化,对用户进行标签化,并针对用户感兴趣的类别和主题、关键词、来源、兴趣,年龄、地点等进行推送。如果用户只依赖于该类网站获取信息,逐渐人工智能将只推送符合用户价值观的新闻。这个过程中,用户通过点击等行为,训练了人工智能;但另一方面,人工智能也在进一步强化用户的思维模式。一个有偏见的思维,通过找寻同道,将进一步加强偏见。由于获取信息的单一化,该过程将大大加快,从而人工智能也完成了对个人意识的强化甚至训练。当该思维模式开始影响该用户的决策时,用户将无从分辨该决策是自己的主观决定,还是由于人工智能对该用户的驯化的结果。加强用户偏见,显然是人工智能信息推送最有益的策略。以前由于人们获取信息的多元化,不同信息的冲击,将有助于改变用户的偏见。如今,人们获取信息来自单一网站,比如今日头条等,各种缺乏中立性的信息,甚至虚假信息,由于符合大部分人的偏见,更容易传播,从而也更容易影响人的思维。所以一定程度上,人工智能在改变着人的思维模式,将思维模式固化,甚至加强群体思维偏见。这个驯化的过程是温和的,甚至是愉悦的。但这个固化偏见的思维模式,对于个体来说危害巨大。人工智能推送的内容让他认为世界上大部分人都是他的同道中人,从而在虚拟世界获得了群体认同。但现实并非如此。认知和现实的隔离,必将在某一刻以某种方式,产生冲击,并造成个体判断和决策失误。

另一个问题是人工智能技术能够改变这些缺陷,避免给用户标签化么?答案是不能。推荐系统,本身就是对用户进行打标签。相比人的多样化,标签永远是有限的。所以最开始谷歌用人工智能技术对邮件进行分类。但对客户进行标签化,并针对标签推送相关的内容,对于营销来说无疑是最有效的。这也就以为这种技术将被更广泛的采用。

如果你发现自己的观点和理念似乎变得越来越正确,很难在网络上看到与其相左的声音,多半情况下,不是“从心所欲不逾矩”,而是网站为你屏蔽了你不喜欢的声音。

个人如何对抗这种人工智能的驯化呢?

1. 开拓多元化的信息获取渠道,摈弃以点击量为目的的新闻推送媒体。

2. 如果无法避免,尽量采用匿名身份进行登陆,避免人工智能收集过多信息,对个人进行标签化。

3. 不断学习,并创造内容,以自己的思想和知识,创造思维的多元性。

但悲观的是,这个驯化过程无法避免,因为整个社会正在被驯化。终究我们难以逃开群体效应。言论自由,并能够在公共平台正常进行思维的碰撞,思辨是对抗这种驯化的关键一环。

喜歡我的文章嗎?
別忘了給點支持與讚賞,讓我知道創作的路上有你陪伴。

CC BY-NC-ND 2.0 版權聲明
1

看不過癮?

一鍵登入,即可加入全球最優質中文創作社區