極客網(wǎng)·人工智能7月16日 近日，馬斯克旗下的人工智能項(xiàng)目又有新動(dòng)作，AI聊天機(jī)器人Grok推出了 30 美元包月的 AI 伴侶服務(wù)，這一消息迅速在科技圈和大眾群體中引發(fā)廣泛討論，爭(zhēng)議聲此起彼伏。
在此次更新中，付費(fèi)訪問(wèn) SuperGrok 的用戶可率先體驗(yàn) AI 聊天機(jī)器人的新 “數(shù)字伴侶” 頭像。用戶需點(diǎn)擊 Grok 左上角欄目，進(jìn)入 “設(shè)置”，點(diǎn)擊啟用 “伴侶” 按鈕，即可選擇心儀角色。目前可用的伴侶包括動(dòng)漫頭像 Ani 和卡通小熊貓 Rudy，還有一款名為 “Chad” 的角色頭像尚未上線。其中，動(dòng)漫頭像 Ani 擁有 “NSFW” 模式，包含不適合在工作場(chǎng)合瀏覽的內(nèi)容。Ani 和 Rudy 具備完整 3D 動(dòng)畫效果，能更換背景并做出不同動(dòng)作。
從用戶體驗(yàn)來(lái)看，這一功能褒貶不一。部分用戶認(rèn)為，雖然啟用過(guò)程稍顯繁瑣，但這一功能對(duì)于深化產(chǎn)品內(nèi)部個(gè)性化交互而言是明智之舉，在增強(qiáng)場(chǎng)景工作流程和用戶自主性方面，開(kāi)辟了令人印象深刻的方向，甚至可能為 SuperGrok 訂閱功能吸引新用戶。然而，這也存在諸多問(wèn)題。當(dāng)以中文進(jìn)行測(cè)試對(duì)話時(shí)，出現(xiàn)了類似外國(guó)人念拼音式的中文發(fā)音，用詞拗口、不口語(yǔ)化，充滿大模型生成文本的味道。盡管 90% 的內(nèi)容能夠聽(tīng)懂，且發(fā)音時(shí)口型與說(shuō)話內(nèi)容適配度高、流暢度不錯(cuò)，但 Ani 的語(yǔ)言過(guò)于直白、毫不掩飾，多次提及 “心動(dòng)”“合拍” 等反問(wèn)句式，甚至?xí)囂叫哉f(shuō)出包含親密想象和性暗示的內(nèi)容，這引發(fā)了不少人的擔(dān)憂。
AI 伴侶賽道興起
其實(shí)，AI 伴侶并非馬斯克首創(chuàng)，在他之前，這一領(lǐng)域已有不少探索，并且呈現(xiàn)出蓬勃發(fā)展的態(tài)勢(shì)。全球范圍內(nèi)，AI 伴侶市場(chǎng)規(guī)模在 2024 年約為 2685 億美元，預(yù)計(jì)到 2033 年將達(dá)到 5210 億美元，年復(fù)合增長(zhǎng)率約為 36.6%。
比如由兩位前谷歌工程師于 2021 年創(chuàng)立的 Character.AI，自 2022 年測(cè)試版上線后，迅速成為角色扮演 AI 的頭部平臺(tái)。每月活躍用戶超 2000 萬(wàn)，總訪問(wèn)量接近 2 億，男性和女性訪客平均分布，深受 18 至 24 歲人群歡迎。其主要收入來(lái)自每月 9.9 美元的會(huì)員訂閱服務(wù)，訂閱用戶可不限聊天次數(shù)并享受更快反饋速度。不過(guò)，該平臺(tái)面臨 “高流量低轉(zhuǎn)化” 難題，2024 年付費(fèi)用戶不足 10 萬(wàn)，年收入 3220 萬(wàn)美元，難以覆蓋大模型訓(xùn)練成本。
成立于 2021 年的 CHAI 同樣是行業(yè)內(nèi)的佼佼者，是首批部署基于 LLM 的消費(fèi)者聊天應(yīng)用程序的公司之一。它定位為 “AI 社交平臺(tái)”，允許開(kāi)發(fā)者提交自定義 LLM 模型，這種 “眾包式” 研發(fā)模式使 Chai 以小型團(tuán)隊(duì)實(shí)現(xiàn)日均百萬(wàn)活躍用戶，單位經(jīng)濟(jì)效率可觀。在變現(xiàn)模式上，廣告收入和訂閱收入各占一半。免費(fèi)層有 3 小時(shí) 70 條消息限制，每 4 條對(duì)話植入精準(zhǔn)廣告；標(biāo)準(zhǔn)層（13.99 美元 / 月）去除廣告并具備基礎(chǔ)記憶功能；至尊層（29.99 美元 / 月）可自定義角色、實(shí)現(xiàn)長(zhǎng)文本情感描寫以及劇情回溯。截至今年 4 月，Chai 已實(shí)現(xiàn) 3000 萬(wàn)美元的年化收入，并計(jì)劃在今年年底將日活躍用戶提升至 450 萬(wàn)，達(dá)成收入 6900 萬(wàn)美元的目標(biāo)。
此外還有以 Replika 為代表的 AI 伴侶應(yīng)用程序，累計(jì)下載量突破 5 億次，每月活躍用戶規(guī)模達(dá)數(shù)千萬(wàn)量級(jí)。多數(shù)應(yīng)用提供基礎(chǔ)免費(fèi)服務(wù)，用戶可為 AI 伴侶設(shè)定基礎(chǔ)特征，也可選擇預(yù)設(shè)個(gè)性的聊天機(jī)器人。Replika 付費(fèi)用戶能解鎖 “配偶” 等特殊關(guān)系狀態(tài)，還能編寫背景故事為 AI 賦予專屬記憶。
AI 伴侶面臨爭(zhēng)議
然而，AI 伴侶行業(yè)在發(fā)展過(guò)程中也面臨諸多爭(zhēng)議。AI 陪伴可能模糊現(xiàn)實(shí)與虛擬關(guān)系的界限，導(dǎo)致人們過(guò)度情感依賴。英國(guó)一位女子因愛(ài)上 AI 伴侶與丈夫離婚，美國(guó)一名青少年沉迷聊天機(jī)器人，甚至受其影響決定結(jié)束生命。
雖然各平臺(tái)采用關(guān)鍵詞過(guò)濾、人工審核等機(jī)制，但 AI 生成內(nèi)容的創(chuàng)造性使其難以完全管控，且很多 AI 陪伴應(yīng)用允許用戶探索成人向內(nèi)容，缺乏嚴(yán)格內(nèi)容過(guò)濾器。增加敏感詞過(guò)濾器雖能在一定程度上解決問(wèn)題，但又會(huì)影響用戶黏性與訂閱收入，還可能降低 AI 角色質(zhì)量和用戶體驗(yàn)。另外，基于真實(shí)人物創(chuàng)作的 AI 角色，有時(shí)會(huì)出現(xiàn)極端或誤導(dǎo)性特征，引發(fā)爭(zhēng)議。
隨著 AI 伴侶的興起，監(jiān)管也逐步提上日程。2023 年，意大利監(jiān)管機(jī)構(gòu)以 “缺乏年齡驗(yàn)證” 為由短暫封禁 Replika；澳大利亞擬將 AI 伴侶納入兒童社交媒體限制范疇；今年早些時(shí)候，美國(guó)紐約州和加州相繼提案，要求加強(qiáng)對(duì) AI 伴侶相關(guān)算法的監(jiān)管，設(shè)置防自殺預(yù)警，以及定時(shí)給用戶發(fā)送 “AI 伴侶并非真人” 的提醒。今年初，3 家美國(guó)科技倫理組織聯(lián)合向聯(lián)邦貿(mào)易委員會(huì)投訴 Replika 涉嫌 “欺騙性設(shè)計(jì)”。5 月 4 日，知名科技監(jiān)管機(jī)構(gòu) Common Sense 發(fā)布研究報(bào)告稱，AI 伴侶可能導(dǎo)致青少年產(chǎn)生情感依賴，不利于身心發(fā)展，建議全面禁止未成年人使用。
小結(jié)：
馬斯克推出的 AI 伴侶服務(wù)，只是 AI 伴侶行業(yè)發(fā)展浪潮中的一朵浪花。雖然 AI 伴侶為人們提供了一種全新的情感交互方式，在滿足部分人情感需求、緩解孤獨(dú)等方面有一定積極意義，但從目前行業(yè)發(fā)展來(lái)看，無(wú)論是技術(shù)完善、用戶體驗(yàn)優(yōu)化，還是倫理道德規(guī)范、監(jiān)管制度建立，都還有很長(zhǎng)的路要走。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
