亚洲精品无码乱码成人|最近中文字幕免费大全|日韩欧美卡一卡二卡新区|熟妇性饥渴一区二区三区|久久久久无码精品国产AV|欧美日韩国产va在线观看|久久精品一本到99热动态图|99国产精品欧美一区二区三区

“AI教父”辛頓表示，現(xiàn)在的多模態(tài)AI（人工智能）聊天機(jī)器人在某種意義上“是有意識(shí)的”，各國(guó)應(yīng)盡快分享讓AI“善良”的方法。

7月26日，2025世界人工智能大會(huì)（WAIC）正式開幕。在上午的開幕儀式上發(fā)表主題演講后，圖靈獎(jiǎng)得主、諾獎(jiǎng)得主、“AI教父”杰弗里·辛頓（Geoffrey Hinton）出席了下午的科學(xué)前沿全體論壇，與上海AI Lab主任周伯文展開一場(chǎng)尖峰對(duì)話。在現(xiàn)場(chǎng)，辛頓受到了全體觀眾的熱烈歡迎。

可以說(shuō)AI“有意識(shí)”，各國(guó)應(yīng)分享讓AI善良的方法

首先，周伯文詢問(wèn)了辛頓對(duì)于“多模態(tài)和語(yǔ)言模型能發(fā)展出自己的主觀體驗(yàn)”的觀點(diǎn)的解讀。辛頓表示，這嚴(yán)格來(lái)說(shuō)并不是一個(gè)科學(xué)問(wèn)題，而是取決于對(duì)“主觀體驗(yàn)”或“意識(shí)”的定義，實(shí)際上，許多人對(duì)這些概念的理解存在系統(tǒng)性錯(cuò)誤。

為解釋這一觀點(diǎn)，辛頓先談到了自己在1987年發(fā)表的論文《The Horizontal-Vertical Delusion》中的經(jīng)典案例，他指出，許多人在描述水平與垂直的概念時(shí)雖然能夠正確區(qū)分，但在實(shí)際判斷中存在系統(tǒng)性混淆，忽視了“垂直”其實(shí)是一種非常特殊的方向。

將其類比到“模型是否有主觀意識(shí)”的論點(diǎn)，辛頓指出：“我認(rèn)為，許多人對(duì)于‘主觀體驗(yàn)（subjective experience）’這類術(shù)語(yǔ)的理解完全錯(cuò)誤。他們的理論很有說(shuō)服力，但完全錯(cuò)誤。這并非一個(gè)科學(xué)問(wèn)題，而是建立在一個(gè)錯(cuò)誤的關(guān)于心理狀態(tài)的模型上，關(guān)于這些術(shù)語(yǔ)的運(yùn)用。所以，我的觀點(diǎn)是，當(dāng)今的多模態(tài)聊天機(jī)器人已經(jīng)具有意識(shí)。”

在辛頓之前，2024圖靈獎(jiǎng)得主、阿爾伯塔大學(xué)教授Richard Sutton也在會(huì)上發(fā)表了視頻演講，稱AI發(fā)展已進(jìn)入一個(gè)模型能夠在真實(shí)環(huán)境中持續(xù)學(xué)習(xí)和積累經(jīng)驗(yàn)的新階段。

關(guān)于主觀體驗(yàn)，辛頓進(jìn)一步闡釋道，當(dāng)AI以機(jī)器人等形式進(jìn)入世界，它們就有了自己的“體驗(yàn)”，可以從自己的經(jīng)驗(yàn)中學(xué)習(xí)：“我認(rèn)為它們會(huì)有經(jīng)驗(yàn)，但經(jīng)驗(yàn)不是事物。而且經(jīng)驗(yàn)不像照片，經(jīng)驗(yàn)是你和一個(gè)物體之間的關(guān)系。”

關(guān)于AI安全，辛頓再次強(qiáng)調(diào)，讓AI“聰明”和“善良”是兩個(gè)截然不同的問(wèn)題，為了實(shí)現(xiàn)這兩者，即使是同一個(gè)大模型也需要兩種訓(xùn)練技術(shù)：“所以，國(guó)家應(yīng)該分享讓模型善良的技術(shù)，即使他們不愿意分享讓模型聰明的技術(shù)。”

辛頓補(bǔ)充道，可能存在讓AI善良的通用訓(xùn)練方法，但當(dāng)AI變得越來(lái)越智能時(shí)，保證其善良的現(xiàn)有方法也可能失效，所以需要在這個(gè)方面進(jìn)行大量研究。

建議年輕研究者“著眼于那些你認(rèn)為所有人都做錯(cuò)了的領(lǐng)域”

在對(duì)話中，辛頓還談到，自己獲得諾貝爾物理學(xué)獎(jiǎng)是一個(gè)“錯(cuò)誤”：“他們很想頒獎(jiǎng)給AI領(lǐng)域，但沒有AI領(lǐng)域的諾貝爾獎(jiǎng)，所以他們只能將物理學(xué)獎(jiǎng)?lì)C給AI（的科學(xué)家）。”

關(guān)于AI對(duì)其他領(lǐng)域科學(xué)發(fā)展的影響，辛頓認(rèn)為，AI確實(shí)為科學(xué)做出了許多貢獻(xiàn)，最顯著的一個(gè)例子是醫(yī)藥領(lǐng)域的蛋白質(zhì)折疊，相信AI今后也能為科學(xué)帶來(lái)更多突破。

最后，被問(wèn)到對(duì)年輕研究者們的建議，辛頓表示，在進(jìn)行原創(chuàng)研究時(shí)，要著眼于那些“認(rèn)為其他所有人都做錯(cuò)了”的領(lǐng)域：“通常在這種情況下，你會(huì)鉆研自己認(rèn)為正確的更好的方法，并最終理解為什么其他人會(huì)那樣做、為什么你是錯(cuò)的。但是，不要放棄，不要認(rèn)為自己的方法很愚蠢，不要在意導(dǎo)師的意見，堅(jiān)持自己的方法直到理解錯(cuò)在哪里。而有時(shí)，當(dāng)你堅(jiān)持自己所相信的，結(jié)果是你沒有錯(cuò)。這就是出現(xiàn)重大突破的地方。輕易放棄的人無(wú)法成功，你需要在其他人反對(duì)時(shí)堅(jiān)持下去。”

辛頓補(bǔ)充道，有一種邏輯能夠支撐這一觀點(diǎn)：“你要么擁有好的直覺，要么擁有壞的直覺。如果你的直覺好，你當(dāng)然應(yīng)該堅(jiān)持自己的直覺；如果你的直覺不好，那么做什么都無(wú)關(guān)緊要，所以你依然應(yīng)該堅(jiān)持自己的直覺。”

在當(dāng)天上午的演講中，辛頓發(fā)表了一篇圍繞AI安全的主題演講。辛頓表示，人類實(shí)際上很像大語(yǔ)言模型。他將人類目前的處境比作養(yǎng)小老虎當(dāng)寵物，如果人類想要生存，必須找到辦法訓(xùn)練AI，不要讓AI消滅人類，讓一個(gè)真正聰明的AI不想接管世界：“我們目前根本不知道如何做到這一點(diǎn)，長(zhǎng)遠(yuǎn)來(lái)看，這是人類面臨的最重要的問(wèn)題。好消息是，這是一個(gè)所有國(guó)家都應(yīng)該能夠合作解決的問(wèn)題。”

2024年10月8日，瑞典皇家科學(xué)院宣布，將2024年諾貝爾物理學(xué)獎(jiǎng)授予美國(guó)普林斯頓大學(xué)的約翰·霍普菲爾德和加拿大多倫多大學(xué)的杰弗里·辛頓，以表彰他們“為推動(dòng)利用人工神經(jīng)網(wǎng)絡(luò)進(jìn)行機(jī)器學(xué)習(xí)作出的基礎(chǔ)性發(fā)現(xiàn)和發(fā)明”。辛頓是卷積神經(jīng)網(wǎng)絡(luò)理論的領(lǐng)軍人物，也被視為由ChatGPT掀起的本輪AI技術(shù)躍進(jìn)背后的奠基性科學(xué)家，被譽(yù)為“AI教父”。

本次世界人工智能大會(huì)以“智能時(shí)代 同球共濟(jì)”為主題，共規(guī)劃了超100場(chǎng)專業(yè)論壇，匯聚1200余位全球?qū)＜遥?2位圖靈獎(jiǎng)、諾獎(jiǎng)得主，大會(huì)將持續(xù)至7月28日。