在人工智能領(lǐng)域，英偉達(dá)于12月17日推出了Jetson Orin Nano Super,，這是一款手掌大小的生成式AI超級(jí)計(jì)算機(jī),。這款開(kāi)發(fā)者套件售價(jià)僅為249美元，以其卓越性能和親民價(jià)格為商業(yè)AI開(kāi)發(fā)者,、愛(ài)好者和學(xué)生提供了一個(gè)強(qiáng)大的工具,。英偉達(dá)CEO黃仁勛表示，Jetson Orin Nano Super的性能提升了70%,，每秒可執(zhí)行高達(dá)67萬(wàn)億次的INT8運(yùn)算,。

OpenAI也不甘示弱，推出了最強(qiáng)推理模型o1,，在多個(gè)基準(zhǔn)測(cè)試中超越人類(lèi)專(zhuān)家,，預(yù)示著通用人工智能(AGI)的進(jìn)一步發(fā)展。在為期12個(gè)工作日的線(xiàn)上新品和技術(shù)發(fā)布活動(dòng)中,，OpenAI宣布將o1向開(kāi)發(fā)者開(kāi)放,，并在開(kāi)發(fā)語(yǔ)音類(lèi)App的API中納入了收費(fèi)更低的先進(jìn)模型GPT-4o版本。

今年9月,，OpenAI發(fā)布了o1的預(yù)覽版o1 preview,，稱(chēng)其是第一個(gè)具備真正通用推理能力的大模型。在GPQA-diamond測(cè)試中,，o1的準(zhǔn)確率達(dá)到78.3%,，超過(guò)了人類(lèi)博士專(zhuān)家的69.7%。此外,，o1在美國(guó)數(shù)學(xué)邀請(qǐng)賽（AIME）中的正確率達(dá)到了83.3%,，遠(yuǎn)超GPT-4o的表現(xiàn)。

12月5日,，OpenAI推出了正式版o1,，支持多模態(tài)輸入并具備視覺(jué)推理能力。相比預(yù)覽版,，正式版o1的平均響應(yīng)速度快了60%,，犯重大錯(cuò)誤的頻率減少了34%。在編碼,、數(shù)學(xué)和視覺(jué)推理任務(wù)的一系列基準(zhǔn)測(cè)試中,，正式版o1取得了明顯進(jìn)步,。例如，在SWE-bench Verified基準(zhǔn)的編碼測(cè)試中,，o1的評(píng)分從41.3提高到48.9,；在AIME測(cè)試中，評(píng)分從42躍升至79.2,。

o1的新功能還包括結(jié)構(gòu)性輸出和函數(shù)調(diào)用等功能,，簡(jiǎn)化了與外部系統(tǒng)的交互過(guò)程。開(kāi)發(fā)人員還可以使用新的reasoning_effort參數(shù)微調(diào)o1的行為,，平衡性能和響應(yīng)時(shí)間,。同時(shí)，o1的延遲更低,，對(duì)于給定請(qǐng)求使用的推理token比o1-preview平均少60%。

本周二,，OpenAI更新了支持語(yǔ)音助手,、實(shí)時(shí)翻譯工具等低延遲自然對(duì)話(huà)體驗(yàn)的Realtime API，并降低了GPT-4o音頻和文本token的費(fèi)率,。

英偉達(dá)推出的Jetson Orin Nano Super適合商業(yè)AI開(kāi)發(fā)者,、愛(ài)好者和學(xué)生。與其前代產(chǎn)品相比,，其生成式AI推理性能提升了1.7倍,，內(nèi)存帶寬也提升了50%，達(dá)到102GB/s,。黃仁勛特意為這款產(chǎn)品錄制了一段視頻,，強(qiáng)調(diào)它非常適合希望在生成式AI、機(jī)器人技術(shù)或計(jì)算機(jī)視覺(jué)領(lǐng)域發(fā)展技能的人士,。

Jetson Orin Nano Super性能增強(qiáng),，適用于所有流行的生成式AI模型，如Meta的LLaMA,、阿里巴巴的通義千問(wèn)以及谷歌的Gemma,。英偉達(dá)還宣布將為Jetson Orin NX和Nano系列的系統(tǒng)模塊提供軟件更新，讓它們也能享受到Super模式的性能提升,，最高可達(dá)70%,。這些更新將通過(guò)Jetpack SDK管理器發(fā)布在英偉達(dá)網(wǎng)站和GitHub上。