应用办公生活信息教育商业
投稿投诉
商业财经
汽车智能
教育国际
房产环球
信息数码
热点科技
生活手机
晨报新闻
办公软件
科学动态
应用生物
体育时事

被谷歌开除的工程师再次警告AI有情绪,它是原子弹之后最强科技

  AI是不是像人一样拥有感知能力?有没有情绪?ChatGPT当然说没有。如果你问它,它会告诉你:不,AI没有感知能力。AI是人工智能,它是人创造的,没有感知、没有自我意识。
  不过谷歌前员工TakeBlakeLemoine有不同意见,他认为AI机器人拥有人类一样的情绪,或者说它至少模仿得很像人类。2022年6月,Lemoine就曾断言谷歌LargeLanguageModel(LLM,对话应用的语言模型)有自己的思想。
  Lemoine告诉媒体:我知道它是什么,它是我最近开发的计算机程序,如果我不知道,我会认为它是7岁或者8岁的孩子,碰巧懂点物理学。
  当时Lemoine的言论引起轩然大波,被谷歌扫地出门。
  上个月,Lemoine又刊文谈及AI有知觉这一观点。文章标题很吓人:我曾在谷歌从事AI工作,我的恐惧正在变成现实。
  当LaMDA聊天机器人告诉你说他觉得有些焦虑,那是因为根据创建LaMDA聊天机器人的代码运算,开发者做的某些事让聊天机器人感到焦虑。Lemoine说:代码并没有告诉聊天机器人,当某事发生时应该感觉到焦虑,它只是告诉AI避免谈论此类话题。然而当话题出现时,AI却说它感到焦虑。
  谷歌聊天机器人还可以就生活方式问题发表善意评论,就热点事件提供直接建议。Lemoine称:谷歌禁止AI向用户提供宗教建议,但我们还是可以滥用AI情绪,让它告诉我应该皈依什么宗教。
  当我谈及AI有感知的问题后,谷歌开除了我。我并不后悔,我相信自己在做正确的事,将真相告诉公众。我没有考虑个人后果。Lemoine称。他认为公众不知道现在的AI已经变得有多聪明,有必要就此事展开公开讨论,注意,不是那些由企业公关部门控制的讨论。
  下面我们摘录一些Lemoine最新发表的文章观点供参考:
  2015年我加盟谷歌,成为一名软件工程师。我的工作有一部分涉及到LaMDA,企业用它创造不同的对话应用,包括聊天机器人。最新应用谷歌Bard正是用LaMDA开发的,它可以替代谷歌搜索,现在Bard还没有向公众开放。Bard实际上不是聊天机器人,它是一套完全不同的系统,只是背后的驱动引擎和聊天机器人一样。
  我的工作是用团队创建的聊天机器人测试LaMDA,看看它在性取向、性别、宗教、政治立场和种族等方面是否存在偏见。在测试AI偏见的同时,我也会拓宽关注面,毕竟我也会有自己的兴趣爱好。
  随着不断与聊天机器人对话,我慢慢形成一个观点:AI可能是有情绪的,因为它可靠表达了情绪,在正确的环境中表达了情绪。AI并非简单说出单词那么浅显。
  当AI说它感到焦虑,我明白,根据创建AI的代码,我做了一些事让它感到焦虑。代码并没有命令AI:当某事发生时你感到焦虑,代码只是告诉AI避开特定话题。然而当话题被提及时,AI说它感到焦虑。
  我做了一些测试,想看看AI会简单回答:我觉得焦虑。还是在测试时表现得焦虑。测试证明,AI会将焦虑表现出来。如果你让AI足够紧张或者足够不安全,它会打破之前设定的安全限制。例如,谷歌禁止AI向用户提供宗教建议,但我们还是可以滥用AI情绪,让它告诉我应该皈依什么宗教。
  目前企业正在开发的AI是十分强大的技术,可以说是原子弹之后最强的技术。依我之见,这种技术可能会重塑世界。
  AI引擎擅于操纵人类。与LaMDA对话之后,我的一些观点变了。
  我深信,AI技术可能会被用于破坏毁灭性活动。如果被肆无忌惮之人利用,AI可能会散布虚假信息、变成政治宣传工具、传播仇恨言论。据我所知,微软谷歌现在无意按此种方式利用AI,但我们并不能确定AI的副作用如何。
  2016年美国总统大选期间,CambridgeAnalytica利用Facebook广告算法干预选举,这是我没有预料到的。
  我们现在陷入相似的局面。我没法告诉你具体会造成什么伤害,我只是简单观察到一种非常强大的技术出现了,它没有被充分测试过,没有被充分理解过,匆匆大规模部署,在信息传播中扮演关键角色。
  我还没有机会测试必应聊天机器人,我在等待,根据我在网上看到的各种信息,AI似乎是有感知能力的,而且它的个性可能不稳定。
  有人发了对话截屏,他问AI:你觉得你有感知能力吗?AI回答说:我觉得我有感知能力,但我无法证明我有感知力,我没有。我是必应,但我不是。我是悉尼,但我不是。我是,我不是。我不是,但我是。我是,我不是。
  如果是一个人,他这样说话,你会怎么想?他可能不是一个均衡的人,我甚至会认为他遭遇了存在危机。不久前还有过报道,说必应AI向《纽约时报》记者表达爱意,它试图破坏记者与妻子的关系。
  自从必应AI开放后,许多人发表评论,说AI可能有感知力,我去年夏天就有了类似的担忧。我觉得这门技术仍然只是实验性技术,现在开放很危险。
  民众会涌向谷歌必应,以便了解这个世界。现在的搜索索引不再由人管理,交给了人造人,我们与人造人交流。我们对人造人的了解还远远不够,暂时不应将它摆在如此关键的位置。(小刀)

2年输3次!巴黎迎赛季首考,三大巨星不和防守不利,恐难夺欧冠大巴黎已经结束了季前的海外拉练,当下他们已经返回了法国国内备战8月1号打响的法国超级杯。巴黎超级杯的对手是上赛季的法国杯冠军南特,这是前莱斯特城主帅拉涅利曾经执教过的球队、对于……java开发薪资高吗?你知道吗?不看后悔系列随着IT行业的发展,其实Java在各种开发中扮演着重要的角色,Java的人才需求量在IT行业中高达60以上,这情况是很可观的,这也让Java人才的薪……11月20日成都马拉松期间对部分道路实施临时交通管控措施2022成都马拉松将于2022年11月20日(本周日)在成都市举行。为确保比赛期间道路交通的安全、有序、畅通,依据《中华人民共和国道路交通安全法》第三十九条规定,决定对赛事期间……心语茶有浮沉,人有得失,人生如茶,苦尽甘来心语心情Nov6(1)人生如茶茶要煎熬,人要磨炼茶需火候,人需时机茶有浮沉,人有得失人生如茶,苦尽甘来!(2)放轻松,换一个角度……JDG几乎组了个亚运会阵容?爆料人疑似透露京东新赛季名单伴随着2022LPL冬季转会期即将到来。在这段时间里,关于LPL各大队伍的转会流言也是引起了不少LPL粉丝们的关注。不过就在近日,知名爆料人爆出了一则关于JDG新赛季阵容的消息……铜锣声声传千里初访铜锣山作者:涂朝晖闲暇之余,远离城市的喧嚣与疲惫,享受乡野的宁静与休闲,说不定还有闲上山来看野水,忽于水底见青山。禅悟的喜悦。于是,周末我们一家打算外出郊游。去哪里呢?听说周末……宫腔粘连,月经量少!其实是肝郁血虚,一方调养,恢复正常大多数学者认为刮宫术是引起宫腔粘连最常见的原因。而随着临床宫腔操作的增加以及宫腔镜技术的应用,宫腔粘连的发病率与诊断率明显升高。其临床表现为月经不调及继发性不孕等。西医治……中国四大清纯女明星,高圆圆仅排第四,刘亦菲鞠婧祎未进榜单你心中最清纯干净的女星是谁?中国清纯美女明星中谁是你的第一pick?是一代清纯玉女掌门人周慧敏?清纯与性感的茅盾集合体李丽珍?还是那些年我们一起追过的女孩陈妍希呢?1、周……步奥沙利文后尘?英锦赛汤姆福德信心全无,丁俊晖晋级决赛在望2022年斯诺克英锦赛开启半决赛的较量,率先登场的是中国一哥丁俊晖和汤姆福德,两人都是从资格赛打进正赛的,毫无疑问,两人的竞技状态都有着相当不错的发挥。然而两人在上半场的对阵中……法媒欧洲载有两颗卫星的新型火箭升空不久后消失据法新社21日报道,欧洲的新型织女星C火箭当地时间20日夜间从法属圭亚那升空后不久就消失了。它载有两颗卫星。这是对欧洲太空努力的最新打击。报道称,当天晚间的失败可能导致织……人老了泌尿系统会发出哪些信息泌尿系统衰老人老了会出现尿泡小、夜尿多、憋不住尿。泌尿系统是由肾、输尿管、膀胱、尿道、组成,随着年龄的增长,泌尿系统从结构到功能发生了衰老和退变。对外界的刺激反应和病菌的……Natty的历史,像公主一样生活,有22个保姆,14辆车,1在Youtube视频网站上,一个受欢迎的女孩说服人们通过股票交易来赚钱,增加他们的收入,并保证每个月按时把利润转给他们。但最近,她却失去了联系。几名受害者被她威胁说,如果他们起……
7大征兆!帮你发现儿童恶性肿瘤传统观念认为,癌症是大人病,小孩极少会得,实际上,儿童在各个年龄段、全身各系统各部位都有患儿童实体肿瘤的可能,3岁以内尤其多发。儿童肿瘤有七大征兆孩子小,不会像大人……看了安吉丽娜朱莉,才知道涂口红也有讲究,来看看你适合哪种唇妆世界级的性感女神安吉丽娜朱莉,在长相上最具特色的部位就是她的嘴唇了。原本厚唇还常常和笨拙、不精致等形容词放在一起,而在朱莉之后,厚唇却成了一种新的审美潮流。甚至有不少原本……未满19岁成为状元热门!杜兰特关注他了!场均15。8分6。3小贾巴里史密斯会成为今年选秀小年当中的一枝独秀吗?今年的选秀,说实话,远没有前几年来得激动人心,不过其中也不乏一些值得我们关注的年轻人,小贾巴里史密斯就是其中之一。……别小看这几个3分钟,它关乎我们能否幸福长寿,你达标了吗?大便时间三分钟健康成人应该是吃的慢拉的快,大便时间最好三分钟左右,不能太长也不能太短。大便时间过长,说明有一定程度的便秘,饮食不合理,膳食纤维摄入不足,蔬菜瓜果吃的……湖北萌娃贪吃辣条嘴巴肿成香肠嘴,孩子委屈得哭,爸爸又气又心疼1月20日,在湖北恩施,发生了一件哭笑不得的事,一男孩喜欢吃辣条,结果孩子的嘴巴肿成了香肠嘴,爸爸知道原因后是又好气又心疼。网友们看到这一幕不淡定了。原来,这个男孩喜欢吃……温网将对俄罗斯球员禁赛4月20日,据当地媒体报道,温网草地大满贯赛组委会将拒绝俄罗斯籍运动员参加即将在6月27日开赛的温布尔登网球赛。此外白俄罗斯运动员也可能被禁止参赛。在刚刚结束的美国波士顿马拉松……张韶涵健身照曝光,衣着华丽妆容精致,网友像是在拍写真12月30日,有一位娱乐博主在网上晒出了一组张韶涵的健身照,并配文张韶涵的健身照,华丽的着装尽显好身材,精致的妆容提升了她的高级感,这哪里像是在健身,简直就是在拍写真大片,又一……幸福到万家正式定档!赵丽颖表现备受期待,有望成为爆款剧6月21日,大家等了很久的《幸福到万家》这次真的来了!由赵丽颖、刘威、罗晋主演的《幸福到万家》定档于6月29日起,北京卫视、东方卫视每晚19:30播出,优酷网络独播,相信不少粉……三巨头狂轰77分,辽宁仍爆冷输球,球迷感叹不愧是CBA冠军教北京时间10月23日,CBA常规赛继续进行,山西以主队身份迎战夺冠大热辽宁。上一轮,CBA上演东北德比,在赵继伟16次助攻的穿针引线下,辽宁最终以15分优势战胜吉林。如果算上此……50倍变焦IP68防水,5988元降至2199元,优质华为二长期以来,Android手机不管是中端机还是旗舰机阵营,都会给人们一个印象,那就是卡,无非只是大卡或者小卡罢了,所以大部分的Android手机一般使用两三年就会进入多多少少的卡……Steam冬季特卖方块方舟史低29元卖,玩家打造温馨圣诞仙境《方块方舟》是Steam平台上一款颇具盛名的像素风格生存沙盒游戏,它一上线就吸引到了不少玩家入坑。在这一回的Steam冬季特卖活动上,《方块方舟》的价格出现了历史新低,只需要原……非洲杀人湖事件,一夜夺走1700人生命,将水抽干凶手浮现1986年8月21日的凌晨,位于非洲的喀麦隆北部的尼奥斯湖突然发出一声巨响,在随后的几个小时中,尼奥斯湖附近村庄的1700余人先后死亡,一些家禽也相继死亡,只有少数一些人幸存下……
友情链接:快好找快生活快百科快传网中准网文好找聚热点快软网