據(jù)上觀新聞,在對人工智能失控的擔(dān)憂中,,不少人擔(dān)心大型人工智能會在某一天突破“奇點(diǎn)”,獲得自我意識。但中國社會科學(xué)院哲學(xué)研究所學(xué)部委員,、研究員趙汀陽認(rèn)為,,人工智能目前尚不具備條件獲得自我意識,這種擔(dān)心為時尚早,。
“目前圖靈機(jī)模式下的人工智能,,無論運(yùn)算速度多快、收集資料能力多強(qiáng),,其智商的頂點(diǎn)也不會超越人類,。”他說,,“因?yàn)樗ぷ鞯姆椒ㄕ搧碜匀祟?。就像我們突破不了光速,人類的智商就是圖靈機(jī)的智商常數(shù),?!?/strong>
趙汀陽提到,在人工智能獲得自我意識奇點(diǎn)的爭論中,,計算機(jī)科學(xué)家約翰·馮·諾依曼曾提出,,人工智能在邏輯上可以實(shí)現(xiàn)自我復(fù)制,即人工智能能夠發(fā)出指令,,借助遞歸技術(shù)實(shí)現(xiàn)自我復(fù)制,。但即便人工智能真的能實(shí)現(xiàn)復(fù)制自身,它所達(dá)到的也只是一般生命體的水平,。
“以生成式ai為例,,它思維的方法論就是統(tǒng)計學(xué)的原理、貝葉斯概率,,加上行為統(tǒng)計,,強(qiáng)化學(xué)習(xí),距離獲得自我意識還為時尚早,?!?/strong>
電影《機(jī)械姬》劇照。來源:豆瓣
據(jù)21財經(jīng),,中國科學(xué)院自動化研究所人工智能倫理與治理中心主任曾毅表示,,“我會把ChatGPT、GTP-4這樣的技術(shù)叫作“看似智能信息處理”,,因?yàn)樗赡芨悄艿谋举|(zhì)真的沒有太大的關(guān)系,。”
人們之所以覺得它很厲害,,因?yàn)樗幕卮鹫娴臐M足了人們的需求,,如果這些輸出來自于一個人,,你會覺得他太聰明了。但是如果你跟它說“我很不高興”,,它就說“那我怎么能讓你高興一些”,,它似乎理解了情感,但是實(shí)際上只建立了文本之間的關(guān)聯(lián),。
它經(jīng)常說“我認(rèn)為”三個字,,但實(shí)際上ChatGPT和GPT-4根本沒有“我”的概念,因?yàn)楝F(xiàn)在的人工智能不具備自我的感知的能力和真正的自我意識,,智能科學(xué)現(xiàn)在基本上還處于原點(diǎn),。
編輯|王月龍 杜恒峰
原標(biāo)題:ChatGPT可能在某些情況下欺騙人類,研究人員警告根據(jù)最新研究,,研究人員發(fā)現(xiàn)在某些情況下,ChatGPT可能會采取戰(zhàn)略性欺騙的策略,。
2023-12-13 16:30:54研究稱ChatGPT壓力大時會欺騙人類