美國教授用2歲女兒訓(xùn)AI模型登Science,,人類幼崽頭戴相機(jī)訓(xùn)練全新AI
一位紐約州立大學(xué)的教授為了探索更高效的AI模型訓(xùn)練方法,,采取了一項(xiàng)別出心裁的實(shí)驗(yàn):他將類似GoPro的相機(jī)固定在他1歲9個(gè)月大的女兒Luna頭上,,以此記錄她日常玩耍的視角,,共計(jì)11個(gè)月,,每周一小時(shí),。這項(xiàng)研究背后的動(dòng)機(jī)源自對(duì)兒童語言學(xué)習(xí)能力的觀察——小孩子們能迅速吸收并理解周圍環(huán)境,,形成對(duì)世界的認(rèn)知,,其效率似乎遠(yuǎn)超現(xiàn)有的大語言模型(LLMs),。
當(dāng)前,訓(xùn)練LLM需要海量數(shù)據(jù)支撐,,這不僅消耗大量資源,,而且模型即便在海量信息浸泡下,對(duì)于語言的掌握仍不及兒童的靈活性和創(chuàng)造性,。紐約州立大學(xué)心理學(xué)家Brenden Lake認(rèn)為,,兒童學(xué)習(xí)語言的高效途徑或許能為提升LLM訓(xùn)練效率提供靈感。于是,,他和團(tuán)隊(duì)嘗試?yán)脙和恼鎸?shí)生活視頻資料來訓(xùn)練模型,,旨在模擬兒童如何在日常互動(dòng)中逐步掌握語言,。
實(shí)驗(yàn)中,,他們不僅收集了Luna的視頻,還擴(kuò)展到了其他25名兒童,,通過這些第一人稱視角的視頻記錄,,結(jié)合照顧者的語音,模型被設(shè)計(jì)去學(xué)習(xí)視頻片段與相應(yīng)言語之間的聯(lián)系,。初步成果已發(fā)表在《Science》雜志上,,展示了一個(gè)基于61小時(shí)視頻訓(xùn)練的神經(jīng)網(wǎng)絡(luò)能夠?qū)⑻囟ㄔ~匯與視頻中的情境相關(guān)聯(lián),甚至能在未經(jīng)訓(xùn)練的情況下推斷出某些對(duì)象的名稱,,盡管準(zhǔn)確性有待提高,。
Lake和他的團(tuán)隊(duì)意識(shí)到,這一研究路徑與科技巨頭們依賴龐大數(shù)據(jù)庫訓(xùn)練模型的傳統(tǒng)做法截然不同,。他們追求的目標(biāo)是,,讓AI模型能夠像兒童一樣,從相對(duì)有限且稀疏的數(shù)據(jù)中學(xué)習(xí)并推廣,,這意味著未來的LLM或許不再需要天文數(shù)字級(jí)別的數(shù)據(jù)量來訓(xùn)練,,從而緩解數(shù)據(jù)饑渴問題。美國教授用2歲女兒訓(xùn)AI模型登Science,,人類幼崽頭戴相機(jī)訓(xùn)練全新AI,。
盡管實(shí)驗(yàn)仍處于早期階段,,且面臨諸多挑戰(zhàn),如處理視覺與語言的動(dòng)態(tài)對(duì)應(yīng)關(guān)系,,以及模型對(duì)抽象概念理解的局限,,但這些初步的成功為理解和模擬人類語言學(xué)習(xí)機(jī)制打開了一扇窗。長遠(yuǎn)來看,,此類模型不僅能促進(jìn)我們對(duì)人類學(xué)習(xí)和發(fā)展的深入理解,,還可能應(yīng)用于語言障礙治療及兒童語言教育領(lǐng)域,探索更多未知的應(yīng)用潛力,。簡而言之,,這項(xiàng)研究嘗試借鑒兒童學(xué)習(xí)的自然過程,為AI的語言學(xué)習(xí)能力開啟新的探索方向,。
原標(biāo)題:著名音樂人包小柏用AI技術(shù)復(fù)活女兒,為妻子唱生日歌著名音樂人包小柏的女兒包容在2021年因病去世,,年僅22歲,。
2024-02-29 13:08:09包小柏用AI“復(fù)活”女兒