OpenAI 已修订其 ChatGPT 使用政策，明文禁止其人工智能系统用于提供医疗、法律或其他需要专业执照的建议。
人工智能（AI）正在迅速重塑全球各行业，医疗保健也不例外。ChatGPT作为一个具有对话界面的大型语言模型，经常被个人用于寻求健康相关问题的即时答案。专家警告，其易用性和即时性使其成为专业咨询的有吸引力的替代品，这一趋势引发了严重的伦理和法律担忧。
根据该公司最新（10月29日）的官方使用政策，修订后的规则现已禁止 ChatGPT 用于以下方面：需要专业认证的咨询（包括医疗或法律建议）；未经同意进行面部或个人识别；未经人为监督，在金融、教育、住房、移民或就业等领域做出关键决策；从事学术不端行为或篡改评估结果。
OpenAI解释说，此次政策调整旨在“增强用户安全并防止因以超出其预期能力的方式使用系统而造成的潜在伤害”。
尽管OpenAI尚未发布官方声明阐述该决定，但许多分析师将此举解读为最小化法律风险的一种方式。在提供专业或敏感建议方面，AI的使用在很大程度上仍未受到监管，这使得开发者和用户都可能面临潜在的法律责任。
此次政策修订正值人们转向聊天机器人寻求复杂或高风险咨询的趋势日益上升之际，甚至有人报告称AI工具协助了法律程序或自我诊断。
Reddit论坛上讨论此更新的用户观察到，以前的规避方法，例如将问题伪装成“假设情景”，现在已基本失效。系统的安全过滤器得到加强，阻止其发出具体建议，从而比以前更加一致地执行公司的新边界。
OpenAI 本周还对其默认模型进行了更改，旨在更好地识别和支持处于困境中的人。
该公司宣布：“我们近期模型更新中的安全改进重点关注以下领域：1）精神障碍或躁狂等心理健康问题；2）自残和自杀；以及3）对AI的情感依赖。展望未来，除了我们长期以来针对自杀和自残的基线安全指标外，我们正在将情感依赖和非自杀性精神健康紧急情况添加到我们未来模型发布的标准基线安全测试集中。”
订阅《透视亚洲》 Telegram频道，了解时事发展。
