文章来源：意大利RaiNews
日期：2023年12月8日
翻译：欧逢雨
审校：杜 颖
前不久，针对拥有Gmail账号的青少年，谷歌公司发布了一款人工智能：从对回复的自动管理到不宜内容的过滤，首先是要面向青少年更进一步。
Bard是谷歌公司旗下最出名的人工智能之一，在2023年9月谷歌公司启动测试阶段之后，现如今也已经向青少年开放。
谷歌公司解释道：年轻用户可以要求聊天机器人提供有关个人规划或学习计划相关的建议、想法、启发和帮助，或者撰写演讲稿（甚至为择校提供建议）。该团队也在人工智能当中加入专门针对数学的体验，使得青少年能够提交问题（或者上传图片），聊天机器人也能够逐步引导他们找到解答的方法。
低龄用户和新型人工智能平台之间的关系这一主题还不是很成熟：一方面，这显然涉及到与新科技的关系，另一方面，不同于社交媒体、数字助手或传统的线上浏览，这种类型的聊天机器人会带来特殊的机遇和风险。
包括拟人的精致社交互动能力的细微差别，这些都有待深入研究。例如， OpenAI（开发Chat GPT的公司）在这方面还没有明确采取行动，但谷歌的路径已经清晰，通过这一路径，谷歌已经在意大利开放Bard，为拥有账户的低龄青少年（通常在13岁至16岁之间）提供接入服务。
人工智能产品的核心人物图尔西·多西（Tulsee Doshi）强调：“要让Bard被更多人接受，我们仍然肩负重任。在为青少年首次推出Bard之前，我们咨询了儿童安全和发展方面的专家，以帮助我们制定内容政策和安全优先的体验。像‘国际家庭在线安全协会（Family Online Safety Institute，一家位于华盛顿的非营利组织）’这样的组织，针对如何牢记青少年和家庭的需求方面，给我们提供了建议。”实际上，该组织的一项研究显示，大多数青少年和父母期望生成式人工智能会成为他们未来的一个重要组成部分：多数家庭已经清楚地知道，对于他们的孩子来说，未来的数字对话伙伴也将是这些平台。
“国际家庭在线安全协会”（Family Online Safety Institute）的创始人兼首席执行官斯蒂芬·巴尔卡姆（Stephen Balkam）认为，“谷歌以谨慎的态度将Bard的访问权限扩大到青少年，这是向前迈出的重要一步，让青少年有机会在适当的保护措施下探索这项技术”。
那么，谷歌为开发青少年版本的Bard采用了哪些标准？首先，它收集了年轻用户的反馈以及他们对这一版本所设限制的建议。其次，多西（Doshi）补充说：“我们专门为青少年定制了Bard的新用户引导流程，其中包括的资源有：人工智能入门指南，以及一段关于如何负责任地使用生成式人工智能的视频。新用户引导流程还将分享有关Bard Activity的使用方式，让青少年有选择地打开或关闭它。”关于新用户引导流程，谷歌指的是未成年人帐号在Bard上登录的初始步骤和进行的初始操作。
然而，最重要的方面似乎是为Bard提供的特定培训，识别对青少年来说不适宜的领域，实施安全和保护措施，防止这一强大的聊天机器人在回复的过程中产生、显示不适宜的内容。
还有另一个因素适用于所有人，但对于低龄用户来说可能更为有效：即所谓的LLM幻觉，即作为人工智能基础的“大语言模型”（Large Language Model）产出的那些看似真实，但实际上完全错误或模糊的结果，这是未经训练的系统数据集反馈得来的。如果没有深厚的知识背景和一定的批判性思维，要识别这些结果并不容易。因此，谷歌表示，“当青少年第一次提出基于事实的问题时，我们将自动运行答案复核功能，以帮助评估Bard的回答是否有网页内容的支持”。
这一功能将很快成为所有Bard新用户的默认设置，当他们向人工智能提出第一个具体问题时，该功能会自动启动。对于青少年来说，Bard将积极并持续地推荐使用双重检查来帮助他们培养信息素养和批判性思维能力。
