外媒 | AMA同意制定有关AI生成医疗建议的利益和后果原则-普瑞纯证

美国医学协会代表大会在年度会议上同意制定有关依赖AI生成的医疗建议和内容的利益和意外后果的原则和建议。这些内容可能未经验证、不准确或不适当。美国医学协会表示，它将向决策者提供建议，以保护患者免受错误信息的影响。它鼓励更好地了解如何适当地利用AI的巨大潜力，从而使患者受益，并减轻医生的行政负担。

“AI有改变医学的可能。我们不想追逐技术。相反，作为科学家，我们想利用我们的专业知识来制定指南和防护措施，以防止意外后果，如加入偏见和扩大不平等、传播不正确的医疗建议或错误信息或假信息，”美国医学协会董事会成员亚历山大·丁博士说。“我们试图为我们的患者展望未来，了解AI的承诺和限制。对于这种已经进入日常医疗实践的AI使用的方向和监管框架，存在很多不确定性。”

除了提出建议，美国医学协会代表大会还投票决定与联邦政府和其他适当的组织合作，保护患者免受虚假或误导性的AI生成的医疗建议的影响。美国医学协会已经开始并将继续鼓励医生教育患者有关与AI交互的风险和利益。

作为医学领域的领导者，美国医学协会表示，它有独特的机会确保医学领域中的AI发展使患者、医生和医疗社区受益。虽然这些工具在帮助减轻医生行政负担方面表现出巨大的潜力，但OpenAI的ChatGPT和其他生成AI产品存在已知问题，而且不是没有错误的。目前的局限性可能会对医生和患者造成潜在的风险，因此在使用未经监管的机器学习算法和工具之前，医生需要特别注意这些风险和增加的责任。

“朝着创建共识原则、标准和监管要求的方向前进，将有助于确保安全、有效、公正和道德的AI技术，包括大型语言模型（LLMs）和生成式预训练转换器（GPT），以增加接触。”

版权声明 本网站所有注明“来源：普瑞纯证”或“来源：pureFDA”的文字、图片和音视频资料，版权均属于普瑞纯证网站所有。非经授权，任何媒体、网站或个人不得转载，否则将追究法律责任。取得书面授权转载时，须注明“来源：普瑞纯证”。其它来源的文章系转载文章，本网所有转载文章系出于传递更多信息之目的，转载内容不代表本站立场。