據(jù)上觀新聞,在對人工智能失控的擔(dān)憂中,,不少人擔(dān)心大型人工智能會在某一天突破“奇點”,,獲得自我意識。但中國社會科學(xué)院哲學(xué)研究所學(xué)部委員,、研究員趙汀陽認為,,人工智能目前尚不具備條件獲得自我意識,這種擔(dān)心為時尚早,。
“目前圖靈機模式下的人工智能,,無論運算速度多快、收集資料能力多強,,其智商的頂點也不會超越人類,。”他說,,“因為它工作的方法論來自人類,。就像我們突破不了光速,人類的智商就是圖靈機的智商常數(shù),?!?/strong>
趙汀陽提到,,在人工智能獲得自我意識奇點的爭論中,計算機科學(xué)家約翰·馮·諾依曼曾提出,,人工智能在邏輯上可以實現(xiàn)自我復(fù)制,,即人工智能能夠發(fā)出指令,借助遞歸技術(shù)實現(xiàn)自我復(fù)制,。但即便人工智能真的能實現(xiàn)復(fù)制自身,,它所達到的也只是一般生命體的水平。
“以生成式ai為例,,它思維的方法論就是統(tǒng)計學(xué)的原理,、貝葉斯概率,加上行為統(tǒng)計,,強化學(xué)習(xí),,距離獲得自我意識還為時尚早?!?/strong>
電影《機械姬》劇照,。來源:豆瓣
據(jù)21財經(jīng),中國科學(xué)院自動化研究所人工智能倫理與治理中心主任曾毅表示,,“我會把ChatGPT,、GTP-4這樣的技術(shù)叫作“看似智能信息處理”,因為它可能跟智能的本質(zhì)真的沒有太大的關(guān)系,?!?/strong>
人們之所以覺得它很厲害,因為它的回答真的滿足了人們的需求,,如果這些輸出來自于一個人,,你會覺得他太聰明了。但是如果你跟它說“我很不高興”,,它就說“那我怎么能讓你高興一些”,,它似乎理解了情感,但是實際上只建立了文本之間的關(guān)聯(lián),。
它經(jīng)常說“我認為”三個字,,但實際上ChatGPT和GPT-4根本沒有“我”的概念,因為現(xiàn)在的人工智能不具備自我的感知的能力和真正的自我意識,,智能科學(xué)現(xiàn)在基本上還處于原點。
編輯|王月龍 杜恒峰
原標(biāo)題:ChatGPT可能在某些情況下欺騙人類,研究人員警告根據(jù)最新研究,,研究人員發(fā)現(xiàn)在某些情況下,,ChatGPT可能會采取戰(zhàn)略性欺騙的策略。
2023-12-13 16:30:54研究稱ChatGPT壓力大時會欺騙人類