編譯/VR陀螺

Meta人工智能研究實驗室創(chuàng)建了一個先進的聊天機器人，如今向公眾推出以收集功能反饋。該機器人名為BlenderBot 3，它可回應你的一般聊天請求，有時候也可以擔任數(shù)字助理一類的角色。美國地區(qū)用戶可通過以下網(wǎng)址訪問：http://blenderbot.ai/

BlenderBot 3建立于Meta之前所使用的大型語言模型或LLMS基礎之上，是一款功能強大但存在缺陷的文本生成軟件，旗下同類型原型還有OpenAI和GPT-3等。BlenderBot在龐大的文本數(shù)據(jù)集上進行訓練，通過挖掘統(tǒng)計模式以生成語言。

一些對話示例，圖源：Meta

這類系統(tǒng)已被證明是非常靈活的，并且已經(jīng)在很多地方有所應用，如為程序員生成代碼、幫助作者寫一本暢銷書等。然而，這些模型也有嚴重的缺陷：它們會在訓練數(shù)據(jù)中出現(xiàn)regurgitate biases（反芻偏見）、對用戶的問題編造答案等問題（如果它們要成為有用的數(shù)字助理，這是一個大問題），而后一個問題是Meta特別想用BlenderBot進行測試的。

通過向公眾發(fā)布聊天機器人，Meta希望收集有關大型語言模型面臨的各種問題的反饋。與BlenderBot聊天的用戶將能夠標記來自系統(tǒng)的任何可疑響應，Meta表示，它正在努力“盡量減少機器人使用粗俗語言、誹謗和文化上不敏感的評論”。使用前，用戶必須允許系統(tǒng)收集他們的使用數(shù)據(jù)，他們的對話和反饋將被存儲記錄并發(fā)布出來，以供一般AI研究社區(qū)使用。

從歷史來看，向公眾發(fā)布原型AI聊天機器人是一個冒險的舉動，2016年，微軟在推特發(fā)布了一款名為Tay的聊天機器人，它可以在與用戶互動過程中進行學習。不過，它很快就被用戶灌輸種族主義、反猶太主義等不良言論，最后微軟被迫在24小時內(nèi)把它下線。

Meta表示，自從Tay事件后，人工智能的世界發(fā)生了很大變化，BlenderBot擁有各種各樣的安全欄，可以阻止Meta重蹈覆轍。

Facebook AI Research (FAIR) 的研究工程經(jīng)理Mary Williamson指出，Tay從用戶的交互中實時學習，而BlenderBot是一個靜態(tài)模型，這意味著它能夠記住用戶在對話中所說的內(nèi)容（有時候甚至會通過瀏覽器cookie保留數(shù)據(jù)），但這些數(shù)據(jù)只會用于進一步改進系統(tǒng)。

Williamson表示，當今使用的大多數(shù)聊天機器人都是狹隘且面向特定任務的，比如常見的客服機器人通常只是向用戶展示一個預先編程的對話樹以減少用戶的查詢范圍，剩下的再交由人工進行處理。而他們設想建立一個可以像人類一樣進行自由和自然對話的系統(tǒng)。

除了BlenderBot 3以外，Meta還發(fā)布了底層代碼、訓練數(shù)據(jù)集和更小的模型變體。研究人員可以通過Meta相關鏈接訪問擁有1750億個參數(shù)的最大化模型。

來源：TheVerge