近日，Soul App举办人工智能伦理与治理委员会(以下简称为“委员会”)成立仪式。除内部委员外，来自互联网治理、伦理学、社会学、青少年研究、法律等不同领域的7位外部委员同时亮相。
Soul App创始人、CEO张璐表示，“AI究竟如何深入交互场景？需要的核心能力是什么？AI边界应该如何把握？这是Soul一直在思考的核心问题，过去一段时间，我们进行了数据安全、用户隐私保护、AI防沉迷、AI治理机制升级等多维度的探索，而通过委员会的成立，我们希望能够进一步凝聚自律共识、拓展治理视野，更前置、系统地建立AI伦理治理体系和管理闭环机制，为广大用户营造更加真实、温暖、可信的社交生态”。
聚焦情绪感知与交互，AI重构生态体系
Soul App CTO、人工智能伦理与治理委员会主任委员陶明表示，站在同步发展大模型能力与落地具体产品功能的独特行业坐标，Soul长期专注于情绪感知与交互方向，探索情绪识别、人机互动等前沿能力发展，直面用户对于AI行为的期待与反馈，积累了大量的实际业务沉淀。
陶明说，如今Soul已成为一家专注于情绪感知与交互、模型与应用一体化的AI生态公司。区别于通用大模型方向，Soul以基于情绪感知、语音为先、面向多模态的交互大模型为技术内核，构建“自有应用—产业生态”双层应用体系。对内，以Soul App等真实社交场景为载体，持续迭代模型交互能力；对外，以SoulX模型能力为产业链赋能，面向具身智能、内容演绎等行业输出情绪感知与交互决策方案，并延伸至AI治理领域，这些都成为了构筑Soul AI伦理治理体系的重要基石。
提升交互场景科技伦理治理能力
与构建“自有应用—产业生态”双层应用体系相同步，Soul已在监管部门的指导下，逐步建立了AI治理机制，以实际的治理成果获得了以Z世代为代表的广大用户的认可。
针对当前AI生成违规内容成本低、传播快、隐蔽性强的治理挑战，Soul依托自身核心技术能力，搭建起以“AI对抗AI”为核心的智能治理体系。通过构建“动态采集—AI深度分析—智能决策—智能执行”的智能对抗链条，推动安全防护能力模块化整合、体系化协同。Soul的“AI大模型助力技术创新，精准识别让虚假人设无处遁形”入选了“清朗浦江.2024”网络生态治理优秀创新案例。
针对行业关注的虚拟人交互安全、行为边界与AI沉迷等问题，Soul进行了多维度的探索，如建立AI虚拟人双向审核机制，用户输入内容在进入模型前，需要经过违法违规、攻击辱骂等多项安全策略审核；模型生成内容在输出前，还需经过独立的AI安全模型和内容审核策略再次校验，实现“用户侧审核+模型侧审核”的双重防护。针对模型多轮对话场景，平台引入上下文语义理解能力，不仅关注单句内容是否违规，也关注连续对话中的风险演化趋势，提升风险识别的准确性和稳定性。
同时，Soul在站内进行了显著的AI虚拟人标识，并且在虚拟人对话交互界面设置常态化固定标识，持续展示“内容由AI生成”提示文案，清晰、显著提示用户当前正在与人工智能进行互动，充分保障用户知情权。
目前，Soul已围绕AI虚拟人、AI语音互动、AI内容生成等场景，逐步构建起覆盖“输入治理、生成治理、输出治理、风险干预、用户保护”的全链路安全体系。针对未成年人保护，平台建立了专项体系，包括上线青少年模式等。
陶明表示，在AI越来越像“真人”的背景下，如何确保用户清晰理解AI身份、保障知情权和选择权，将是平台未来治理的重要方向。此次成立人工智能伦理与治理委员会是平台系统化构建AI治理机制的重要一步。该委员会将围绕Soul“模型与应用一体化的AI生态公司”定位，坚持科技向善、技术为人、安全可控、普惠共治、公开透明的价值主张，通过技术治理与伦理审查相结合的方式，构建覆盖数据、算法、应用的全流程风控体系，整体提升企业负责任创新的能力。
据悉，Soul人工智能伦理与治理委员会成立后，将承担的核心职能包括制定AI伦理治理战略，确保与技术发展同步；对新技术、产品开展前置伦理评估；定期开展AI伦理通识培训，提升员工伦理素养；建立伦理事件闭环管理机制，包括监测、研判、处置、反馈等环节等。
陶明表示，现阶段，伴随着技术的快速发展，AI伦理治理仍面临诸多挑战，未来，Soul将继续坚持“发展与安全并重、创新与责任同行”，持续深化AI伦理治理实践。一方面，进一步完善AI安全审核体系和风险防控能力，提升模型可控性和可信度；另一方面，积极与学界、行业开展合作，探索符合社交场景特点的AI伦理规范建设，将数据合规、隐私保护、未成年人保护、内容向善、公平透明等理念贯穿于产品设计和技术应用全过程，努力推动AI技术在安全、健康、负责任的轨道上持续发展。(华柏)
信通配资提示：文章来自网络，不代表本站观点。
