據(jù)介紹，Gemini聊天機(jī)器人將允許孩子們提問、獲取作業(yè)幫助，甚至創(chuàng)作故事，為他們的學(xué)習(xí)和娛樂提供了新的可能性。然而，隨著人工智能技術(shù)在兒童群體中的普及，潛在的安全風(fēng)險(xiǎn)也不容忽視。聯(lián)合國兒童基金會(huì)等組織已發(fā)出警告，指出人工智能系統(tǒng)可能會(huì)混淆、誤導(dǎo)兒童，甚至構(gòu)成操縱風(fēng)險(xiǎn)。

谷歌發(fā)言人強(qiáng)調(diào)，Gemini針對年輕用戶設(shè)置了特定的保護(hù)措施，并承諾不會(huì)使用兒童數(shù)據(jù)來訓(xùn)練其人工智能。此外，谷歌還建議家長教育孩子如何核實(shí)Gemini的答案，并提醒他們聊天機(jī)器人并非人類，不應(yīng)輸入敏感或個(gè)人信息。

《紐約時(shí)報(bào)》指出，盡管谷歌已采取措施過濾不當(dāng)內(nèi)容，但仍無法完全消除兒童可能接觸到不良信息的風(fēng)險(xiǎn)。此前，其他科技公司如Meta在嘗試推出針對兒童的社交媒體服務(wù)時(shí)也遭遇了挫折，凸顯了兒童在線安全問題的復(fù)雜性。