斯坦福学生聚焦现实问题：从隐私保护到透明AI模型

亚马逊支持的奖学金项目将为10名斯坦福大学博士生提供资助，他们的研究涉及从人类交流到疾病理解和数据保护等各个领域。

Noah Cowan希望帮助瘫痪患者更流畅地通过计算机进行语言交流。Valeh Valiollah Pour Amiri正在构建她称之为"透明盒子"的AI模型，该模型有朝一日可能模拟整个虚拟细胞。Ken Ziyu Liu致力于保护人们免受他们所依赖的AI工具的画像分析。

这三名学生是10名斯坦福大学博士候选人中的代表，他们将通过亚马逊AI博士奖学金项目获得两年的资金支持和AWS云计算积分。该项目旨在支持新兴研究人员解决AI领域最具挑战性的问题。他们的工作涵盖航空航天、深度学习、自然语言处理、遗传学和统计学等多个不同领域。

AI博士奖学金项目旨在推动实用AI创新。亚马逊正在支持九所大学的100多名学者，为他们提供计算资源、导师指导和与其他学者的面对面交流机会。

"这个项目将帮助斯坦福大学培养下一代科学领袖来解决现实世界的问题，"斯坦福大学副教务长兼研究院院长David Studdert表示。"它将极大地加速他们将大胆想法转化为有意义影响的能力。"

让我们认识其中三位探索AI和数据科学如何更好地服务世界的研究员：

保护用户隐私的AI安全层

在斯坦福AI实验室，计算机科学博士生Ken Ziyu Liu研究基础模型、数据和用户隐私的交叉领域。他的使命是创建更好的隐私保护工具，在AI驱动的世界中保护人类。"我告诉我的同伴，OpenAI可能比你的父母更了解你，"他说。"我们想使用这些工具，但你可能会被非常准确地定位和画像。"

通过开放匿名项目，Liu和SAIL的访问研究员Erik Chi正在为ChatGPT构建一个类似虚拟专用网络（VPN）的隐私层。这一层从大语言模型请求中移除用户身份，使交易对模型来说看起来是匿名的。他们隐私保护方法的一个好处是，用户将拥有他们个人AI活动历史的唯一副本，从而实现由用户而非AI提供商控制的数字记忆档案。"想象一下，你携带着自己的数据在手机上，每次与AI驱动的在线服务互动时，你决定与企业、医生和其他第三方分享什么信息，"Liu解释说。

通过实施软件行业常用的安全技术——比如苹果iCloud私人中继使用的盲签名——Liu表示用户ID变得分离且无法被任何模型追踪。用户的聊天记录本地存储在他们自己的设备上，模型只能看到每个聊天会话的匿名交互。

构建透明AI模型模拟虚拟细胞

遗传学博士生Valeh Valiollah Pour Amiri正在开发基于DNA序列的AI模型，这些模型可以帮助科学家理解活细胞在分子水平上的功能。

在计算生物学中，学者们致力于使用计算机科学来理解生物学。Amiri的重点是可解释性，即理解序列模型正在学习什么。"我们希望开创一种透明盒子的方法，而不是黑盒子，这样我们就可以将遗传故事一直延续到构建综合虚拟细胞的长期目标，"她说。

在工作的早期阶段，Amiri正在探索不同的可解释性工具，以帮助她构建能够解释自己输出的专门模型。每个模型都旨在捕捉遗传调节特定阶段的本质——例如转录因子结合（蛋白质结合DNA调节基因表达）、染色质可及性（DNA开放程度或围绕组蛋白包装的程度）和表观遗传修饰（对DNA或组蛋白的化学修饰，影响表达水平而不改变DNA序列）。

接下来，这些单独的模型可以组装成相互连接模块的层次结构，这些模块以镜像生物学的方式相互作用。最终，Amiri设想这个模型网络作为一个机械AI虚拟细胞来模拟细胞如何以及为什么会有某种行为。在其他应用中，这一创新可以通过在进入湿实验室和临床试验之前用AI测试假设来加速新疾病治疗方法的开发。这种可解释和模块化模型的特性可以帮助精确定位受各种遗传修饰影响的确切分子过程。

改善脑机接口的通信体验

Noah Cowan正在应用他在机器学习和计算神经科学方面的背景来改善脑机接口（BCI），这可以为瘫痪且无法说话的人提供与亲人更好的交流方式。

作为Linderman实验室的三年级统计学博士生——该实验室隶属于斯坦福大学统计系和吴蔡神经科学研究院——Cowan专门研究帮助模型应对数据分布变化的特殊数学方法。

"现代脑机接口依赖神经网络将人类思想转化为文本。但大脑信号变化迅速，使得模型随时间推移变得不太准确，"Cowan说。"我们正在基于先前解决这个问题的方案，采用统计方法考虑用户可能想说的多种可能性。最终，我们希望BCI技术的用户体验到更少的摩擦和更流畅的交流体验。"

了解更多关于AI博士奖学金项目的信息，并查看入选这个两年期机会的10名斯坦福研究员。

Q&A

Q1：开放匿名项目是什么？如何保护用户隐私？

A：开放匿名项目是由Ken Ziyu Liu和Erik Chi构建的ChatGPT隐私保护层，类似于虚拟专用网络。它通过从大语言模型请求中移除用户身份，使交易对模型看起来是匿名的，用户的聊天记录本地存储在自己设备上，模型只能看到每个会话的匿名交互。

Q2：透明盒子AI模型与黑盒模型有什么区别？

A：透明盒子AI模型是Valeh Valiollah Pour Amiri开发的可解释AI方法，与传统黑盒模型不同，它能够解释自己的输出结果。这种模型可以捕捉遗传调节的特定阶段，并组装成相互连接的模块层次结构，最终构建能够模拟虚拟细胞行为的机械AI系统。

Q3：脑机接口技术面临什么挑战？如何改善？

A：现代脑机接口面临的主要挑战是大脑信号变化迅速，导致神经网络模型随时间推移准确性下降。Noah Cowan通过统计方法来解决这个问题，考虑用户可能想说的多种可能性，从而让BCI技术用户体验更少摩擦和更流畅的交流。