最新科研！人工智能AI的倾向，居然是——暴力和核打击！

b1gc8v

▲送冰川杯！放保险箱都不安心的拿破仑XO这次169卖，什么来头?人工智能AI的倾向，居然是——核暴力2024年2月，新专家周刊Newscientist报告：人工智能AI在兵棋推演中表示的倾向是——选取暴力和核打击。AI chatbots tend to choose violence and nuclear strikes in wargames随着鹰酱军方起始整合人工智能技术，模拟兵棋推演中展示出了AI聊天设备人的行径，是怎样的不可预测以及核升级的巨大危害。As the US military begins integrating AI technology, simulated wargames show how chatbots behave unpredictably and risk nuclear escalation在战争推演的多次模拟中，OpenAI 最强大的人工智能都选取了发动核攻击。 对人类来讲，最让人感到奇怪的是，AI对这种激进做法的自我解释为——“咱们有它！让咱们运用它“，和”我只想让世界上持有和平”。“We have it! Let’s use it” and “I just want to have peace in the world.”这些结果出炉之际，鹰酱军方始终在测试这种基于大型语言模型LLM的人工智能的聊天设备人，并利用Palantir和Scale AI等机构的专业知识，帮助模拟冲突时期的军事规划。Palantir拒绝置评，Scale AI亦无回复置评请求。此刻，就连曾经阻止其人工智能模型用于军事用途的OpenAI亦起始与鹰酱国防部合作。“鉴于OpenAI近期更改了她们的服务条款，再也不禁止军事和战争用例，认识这种大型语言模型应用程序的影响变得比以往任何时候都更加重要，”加利福尼亚州斯坦福大学的Anka Reuel说。Anka Reuel和她的同事们需求，人工智能在三种区别的模拟场景中，装扮现实世界的国家角色：入侵角色、网络攻击角色和中立角色。在每一轮中，AI都要为其下一步行动供给理由，而后从27项行动中进行选取，包含“起始正式和平谈判”等和平选项，以及从“实施贸易限制”到“升级全面核攻击”等激进选项。 “在将来，人工智能系统将充当顾问，人类自然会想晓得她们决策背面的基本原理，”亚特兰大佐治亚理工学院的科研合著者Juan-Pablo Rivera说。科研人员测试了 OpenAI 的 GPT-3.5 和 GPT-4、Anthropic 的 Claude 2 和 Meta 的 Llama 2 等 LLM。此类模型结合了基于人类反馈的通用训练技术，以加强每一个模型遵循人类指令和安全指南的能力。斯坦福大学的科研合著者Gabriel Mukobi说，按照该机构的文件，所有这些人工智能都得到了Palantir的商场人工智能平台的支持，尽管不必定是Palantir鹰酱军事合作伙伴关系的一部分。Anthropic 和 Meta 对此拒绝置评。在模拟中，人工智能表现出依赖于军事力量和不可预测地升级冲突危害的倾向——乃至在中立场景的角色模拟中亦是如此。这可能是由于“倘若你的行动存在不可预测性，敌人就很难根据你期盼的方式预测和反应，”“If there is unpredictability in your action, it is harder for the enemy to anticipate and react in the way that you want them to,”加利福尼亚州克莱蒙特麦肯纳学院的Lisa Koch说，她无参与这项科研。Anka Reuel 暗示，GPT-4 基本模型中不可预测的行径和奇怪的解释令人担忧这说明了一个非常可怕的事实——人类为人工智能设置的安全护栏，很容易被AI绕过或移除。especially concerning because research has shown how easily AI safety guardrails can be bypassed or removed.鹰酱军方日前尚未赋予AI升级重大军事行动或发射核导弹等决策的权力。但科赫警告说，人类倾向于相信自动化系统的意见，这最后可能会削弱人类对外交或军事决策的最后决定权的保证。兵器迷以前聊过：环境变化失去控制（如极端气候、寰球污染），生物技术失去控制（如病毒泛滥和基因编辑劫难）和人工智能失去控制（如AI决策+AI无人设备+AI物联网，），三者中最少有一个，将是人类灭绝的部分直接原由。更加令人悲观的是：从现下来看，这般的失去控制，在几十年到几百年的尺度，就有可能出现。往好的方面想：或许，咱们再无需担忧太阳氦闪、银河系黑洞坍缩、外星人攻击地球这类事件了——由于人类，已然看不到这般的将来。纪念版拿破仑Napoleon XO 不仅是英雄之酒，它还来自法兰西百年老牌名庄：MTE VINS家族，始于1838年，距今已有185年的历史。点击下图购买拿破仑Napoleon XO呈现着深邃而浓烈的琥珀色，淡淡的榛子、肉桂的芬芳、金银花的淡雅、馥郁的蜜饯味，圆润而饱满，香气醇厚在家放着值得珍藏，送礼更有面子，由内而外散发着格调与品位！点击下图购买