广东
人工智能聊天机器人的日益普及引发了关于其作为朋友、伙伴还是工作助手的社会角色的争论。
而且它们也变得越来越复杂。角色扮演平台Character AI承诺通过与机器人角色的对话，实现个性化和创造性的互动。但也有一些负面结果：目前，Character.ai 正面临一场诉讼，涉及其聊天机器人在一名青少年自杀事件中所扮演的角色。
其他公司，例如 ChatGPT 和Google Gemini，则承诺通过 genAI 提高工作效率。但下一步将如何发展呢？在这种狂热的氛围中，发明家们正在开发更先进的人工智能助手，这些助手将拥有更强的社交直觉，能够执行更复杂的任务。
生成式人工智能的应用持续增长。 （Shutterstock）未来冲击
两年前OpenAI的ChatGPT所引发的震动，不仅是因为采用率的飙升和对就业的威胁，更是因为它针对创意写作和教育的文化打击。
我的研究探索了围绕人工智能的炒作如何影响一些人对其做出专业判断的能力。这种影响源于人们对人类文明脆弱性的焦虑，滋生了未来“超级智能”可能超越人类控制的观念。
预计 2032 年 genAI 的收入将达到1.3 万亿美元，这一财务预测将进一步引发炒作。
主流媒体的报道也夸大了人工智能的创造力，并将该技术描述为对人类文明的威胁。
拉响警报
世界各地的科学家都对人工智能的实施和应用表示了紧迫性。
诺贝尔奖得主、人工智能先驱杰弗里·辛顿（Geoffrey Hinton）因对人工智能发展存在分歧而辞去谷歌职务，并因人工智能的进步而后悔在谷歌的工作。然而，未来的威胁却更加个人化。
2015 年 3 月，人工智能先驱科学家杰弗里·辛顿 (Geoffrey Hinton) 在加利福尼亚州山景城谷歌总部留影。
人工智能正在经历一场转型，转向以自我为中心、个性化的人工智能工具，这些工具的功能远远超出了现有能力，能够重塑已成为商品的自我。人工智能技术重塑了我们对自身的认知：我们的人格、思想和情感。
下一波人工智能助手，即人工智能代理的一种，不仅会深入地了解用户，还能代表用户采取行动，甚至模拟用户。这一理念远比那些仅仅充当文字写作、视频制作或软件编程助手的人工智能更具吸引力。
这些个性化的人工智能代理将能够确定意图并开展工作。
谷歌 DeepMind 高级研究员 Iason Gabriel 和一个大型研究团队撰写了一篇关于高级人工智能助手伦理发展的文章。他们的研究敲响了警钟：人工智能助手可以“影响用户的信仰和行为”，包括通过“欺骗、胁迫和剥削”的方式。
人工智能仍然具有技术乌托邦的一面。加布里埃尔在一期播客中沉思道：“我们很多人都希望能拥有一种能够替我们处理很多生活事务的技术”，并称之为“思想伙伴”。
文化混乱
人工智能颠覆的最新进展将干扰我们对自己的理解，因此，我们需要预测技术文化的影响。
在网上，人们在 X、Instagram 或领英等平台上展现超现实且精心策划的自我形象。用户与苹果 Siri或亚马逊 Alexa等个人数字助理的互动方式也让我们更加社交化，从而重新构想个人生活。这些“生活叙事”实践在开发下一波高级助理方面发挥着关键作用。
量化自我运动是指用户通过各种应用程序、可穿戴技术和社交媒体平台追踪自己的生活。人工智能助手的新发展可能会利用这些工具进行生物黑客攻击和自我提升，然而，这些新兴工具也引发了人们对个人数据处理的担忧。人工智能工具存在身份盗窃、性别和种族歧视以及各种数字鸿沟的风险。
不仅仅是援助
人机交互助手可以与其他领域融合。医疗领域的数字孪生技术应用了用户的生物数据，能够创建人体生理状态的虚拟表征，并有助于预测未来的发展。这也可能导致人们过度依赖人工智能助手获取医疗信息，而缺乏医疗专业人员的人工监督。
其他先进的人工智能助手会“记住”人们的过去，并推断其意图或为未来的生活目标提出建议。已有研究发现，记忆功能自动化会造成严重危害，例如对亲密伴侣暴力的受害者。
免责声明：
本文所发布的内容和图片旨在传播行业信息，版权归原作者所有，非商业用途。 如有侵权，请与我们联系。 所有信息仅供参考和分享，不构成任何投资建议。投资者应基于自身判断和谨慎评估做出决策。 投资有风险，入市需谨慎。
关注我们，一起探索AWM！
2025-05-28
2025-05-26
2025-05-24
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
