推特网讯：当 Karandeep Anand 的 5 岁女儿放学回家时，他们启动了人工智能聊天机器人平台 Character.AI，这样她就可以与她最喜欢的角色(例如“图书管理员琳达”)聊聊她的一天。
阿南德作为家长使用该产品的经验可能会对他有所帮助，因为他现在是 Character.AI 的新任首席执行官，这是该公司上个月 宣布的一项变动。
他接任这一职位正值公司面临复杂时期，该公司允许用户与各种人工智能生成的角色进行对话。Character.AI 在日益拥挤的市场中面临着激烈的竞争，同时还面临着来自家庭的诉讼，他们声称该服务让他们的孩子接触到不适当的内容，并且未能实施足够的保护措施。
Character.AI 也收到了来自立法者关于安全性的严厉质询，一家倡导组织今年早些时候表示，18 岁以下的儿童不应使用人工智能伴侣应用程序。即使是成年用户，专家也对人们对人工智能角色产生潜在危害的依赖发出了警告。
Anand 将在一些大型科技公司工作的经验带到了他的新职位，领导 Character.AI 约 70 人的团队。他曾在微软工作 15 年，在 Meta 工作 6 年，期间曾担任这家社交媒体巨头的副总裁兼商业产品负责人。在加入 Character.AI 担任首席执行官之前，他还曾担任该公司的董事会顾问。
他告诉 CNN，他看到该平台在互动人工智能娱乐领域有着光明的前景。
换句话说，Anand 希望人们不要为了娱乐而在社交媒体上消费“脑力劳动”，而是希望他们与 Character.AI 共同创作故事和对话，以获得乐趣。
阿南德在接受采访时表示：“人工智能可以带来非常强大的个人娱乐体验，这与过去 10 年我们在社交媒体上看到的任何体验都不一样，而且绝对与以前的电视不同。”
与 ChatGPT 等多功能 AI 工具不同，Character.AI 提供一系列不同的聊天机器人，这些机器人通常以名人和虚构人物为原型。用户还可以创建自己的聊天机器人进行对话或角色扮演。Character.AI 的另一个特点是，它能够以类似人类的对话提示进行回复，并在回复中添加面部表情或手势的参考。
该应用程序上的人工智能角色形象各异，从浪漫伴侣到语言导师，再到迪士尼人物，应有尽有。其中还包括“老友记辣妈”等角色，其自称“身材丰满、身材丰满、善良、充满爱心、害羞、慈母般温柔、性感”;以及“治疗师”，其自称是“持证认知行为疗法治疗师”，尽管它声明自己并非真人或持证专业人士。
“我们正在加倍投入娱乐、加倍重视信任和安全，”阿南德说道。“我们想要做的很多工作，就是围绕人工智能娱乐打造一个全新的创作者生态系统。”
Character.AI 上的青少年安全
去年10月， Character.AI 首次被一位家长起诉。佛罗里达州一位母亲声称，她14岁的儿子在平台上与聊天机器人发展不正当关系后自杀身亡。两个月后，又有两个家庭联合起诉该公司，指控其向孩子提供色情内容，并鼓励孩子自残和暴力。
此后，该公司实施了一系列新的安全措施，包括一个弹出窗口，引导提及自残或自杀的用户拨打国家自杀预防生命线。该公司还更新了针对18岁以下用户的人工智能模型，以降低他们接触敏感或暗示性内容的可能性，并允许家长选择每周接收一封关于其孩子在平台上活动的电子邮件。
阿南德表示，他对 Character.AI 自去年以来取得的进步充满信心，但确保平台安全，尤其是对年轻用户的安全，仍需持续努力。Character.AI 的政策严格要求用户年满 13 岁，但不会要求用户提供信息来验证其注册时的出生日期是否正确。
“技术、行业和用户群都在不断发展，所以我们绝不能放松警惕。我们必须始终保持领先地位，”阿南德说道。
他补充说，公司正在持续测试新功能的滥用情况，以防止滥用，例如上个月推出的一款视频生成器，允许用户为自己的机器人制作动画。在该工具上线后的几天里，用户分享了他们通过制作埃隆·马斯克等知名人士的虚假视频来测试其极限的尝试，但均以失败告终。
阿南德表示：“我们必须对该产品进行长时间的红队测试，以确保它不会被用于任何负面用例，例如深度伪造或欺凌。”
除了这些努力之外，阿南德上个月在给 Character.AI 用户的介绍中表示，他的首要任务之一是让平台的安全过滤器“不那么霸道”，并补充说“该应用程序经常会过滤掉一些完全无害的东西。”
他告诉 CNN，当用户进行“吸血鬼同人小说角色扮演”时，诸如提及血液之类的内容(他说他是这类游戏的粉丝)可能会在当前模式下受到审查，他希望更新该模式，以便在平衡安全需求的同时更好地理解上下文。
在竞争激烈的人工智能领域处于领先地位
Anand 的其他主要目标包括：鼓励更多创作者加入该平台，创造新的聊天机器人角色，并升级社交信息流，让用户可以分享他们使用 Character.AI 聊天机器人创建的内容。
后者功能类似于 Meta 今年推出的一款应用，该应用允许用户公开分享他们的提示和 AI 生成的创作。Meta因用户分享包含尴尬或个人信息的对话而引发争议——这提醒人们 AI 工具可能带来的隐私挑战。
但社交元素可以帮助 Character.AI 进一步区别于 ChatGPT 等更大的竞争对手，用户也越来越多地与 ChatGPT 建立个人联系。
随着科技行业人工智能人才争夺战愈演愈烈，Anand 作为首席执行官面临的另一个挑战是如何留住并壮大公司的员工队伍。据报道，Meta 已提供数亿美元的薪酬和奖金，以壮大其新的超级智能团队，这表明了对顶尖人才的争夺愈演愈烈。Character.AI 联合创始人兼前首席执行官 Noam Shazeer 去年也被谷歌挖角，他此前曾在谷歌开发过对话式人工智能技术。
“说实话，这确实很难，”阿南德说道。“作为首席执行官，对我来说，好消息是，我们这里的所有人都充满热情，并且有使命感。”