北京
人工智能系统有望帮助科学家识别有前景的新药，但也可能让他们相信某种根本不存在的生物效应。
生成式AI通过从现有示例中学习共性特征和关联来创造新内容。虽然这项技术最广为人知的是生成文本和图像，但研究人员正在探索将其应用于蛋白质设计、细胞模拟、填补实验结果空白以及生成合成生物学数据。
但这些系统可能产生幻觉。在生物学研究中，幻觉意味着模型生成一个看似合理的分子模式或推论，却并不反映真实的生物学本质。
此类错误可能带来切实的后果。AI可能无视一种本可有效的候选药物，将研究人员引向无效疗法，掩盖真实的生物效应，或让一个根本不存在的疾病机制显得像重大发现。
法国格勒诺布尔阿尔卑斯大学的计算生物学家托马斯·比尔热（Thomas Burger）在《Patterns》期刊发表观点文章，对生成式AI在10种潜在应用中的这一风险进行了系统探讨。
组学实验能产生包含基因、蛋白质及其他分子测量数据的海量数据集。AI或许能帮助研究人员理解这些巨量信息，但被引入复杂数据的细微变化可能极难察觉。
比尔热认为，并非所有应用都承担同等级别的风险。关键区别在于：AI的输出究竟是日后将在真实实验中检验的"想法"，还是直接用作证据的合成数据。
他坦言："我此前从未想过这一点，但我觉得幻觉确实有可能带来真正的发现。"
在风险相对较低的应用中，例如筛选潜在药物或蛋白质，模型可以快速评估大量候选对象，挑出较小一组供实验室测试。即便AI犯错，后续真实实验仍有机会纠偏——因为这一场景下，AI给出的只是一个待验证的假设。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
