年轻的女医生警惕人工智能时代的“智能体风险”年轻的女医生
警惕人工智能时代的“智能体风险”年轻的女医生
“德国之声”引述德国旅游专家预测称，中国是世界上最大的游客来源市场，2023年中国游客预计将达到1.1亿人次。到2030年，这一数字预计将增加到2.28亿人次。
新华社北京7月16日电（记者彭茜）一群证券交易机器人通过高频买卖合约在纳斯达克等证券交易所短暂地抹去了1万亿美元价值，年轻的女医生世界卫生组织使用的聊天机器人提供了过时的药品审核信息，美国一位资深律师没能判断出自己向法庭提供的历史案例文书竟然均由chatgpt凭空捏造……这些真实发生的案例表明，智能体带来的安全隐患不容小觑。 图为2023年11月2日，在英国布莱奇利园，一名参会者经过首届人工智能安全峰会的宣传展板。（新华社记者李颖摄） 智能体是人工智能（ai）领域中的一个重要概念，是指能够自主感知环境、做出决策并执行行动的智能实体，它可以是一个程序、一个系统或是一个机器人。 智能体的核心是人工智能算法，包括机器学习、深度学习、强化学习、神经网络等技术。通过这些算法，智能体可以从大量数据中学习并改进自身的性能，不断优化自己的决策和行为。智能体还可根据环境变化做出灵活的调整，适应不同的场景和任务。 第一，可根据目标独立采取行动，即自主决策。智能体可以被赋予一个高级别甚至模糊的目标，并独立采取行动实现该目标。 第二，可与外部世界互动，自如地使用不同的软件工具。比如基于gpt-4的智能体autogpt，可以自主地在网络上搜索相关信息，并根据用户的需求自动编写代码和管理业务。 第三，可无限期地运行。美国哈佛大学法学院教授乔纳森·齐特雷恩近期在美国《大西洋》杂志发表的《是时候控制ai智能体》一文指出，智能体允许人类操作员“设置后便不再操心”。还有专家认为，智能体具备可进化性，能够在工作进程中通过反馈逐步自我优化，比如学习新技能和优化技能组合。 以gpt为代表的大语言模型（llm）的出现，标志着智能体进入批量化生产时代。此前，智能体需靠专业的计算机科学人员历经多轮研发测试，现在依靠大语言模型就可迅速将特定目标转化为程序代码，生成各式各样的智能体。而兼具文字、图片、视频生成和理解能力的多模态大模型，也为智能体的发展创造了有利条件，使它们可以利用计算机视觉“看见”虚拟或现实的三维世界，这对于人工智能非玩家角色和机器人研发都尤为重要。 智能体可以自主决策，又能通过与环境交互施加对物理世界影响，一旦失控将给人类社会带来极大威胁。哈佛大学齐特雷恩认为，这种不仅能与人交谈，还能在现实世界中行动的ai的常规化，是“数字与模拟、比特与原子之间跨越血脑屏障的一步”，应当引起警觉。 智能体的运行逻辑可能使其在实现特定目标过程中出现有害偏差。齐特雷恩认为，在一些情况下，智能体可能只捕捉到目标的字面意思，没有理解目标的实质意思，从而在响应某些激励或优化某些目标时出现异常行为。比如，一个让机器人“帮助我应付无聊的课”的学生可能无意中生成了一个炸弹威胁电话，因为ai试图增添一些刺激。ai大语言模型本身具备的“黑箱”和“幻觉”问题也会增加出现异常的频率。 智能体还可指挥人在真实世界中的行动。美国加利福尼亚大学伯克利分校、加拿大蒙特利尔大学等机构专家近期在美国《科学》杂志发表《管理高级人工智能体》一文称，限制强大智能体对其环境施加的影响是极其困难的。例如，智能体可以说服或付钱给不知情的人类参与者，让他们代表自己执行重要行动。齐特雷恩也认为，一个智能体可能会通过在社交网站上发布有偿招募令来引诱一个人参与现实中的敲诈案，这种操作还可在数百或数千个城镇中同时实施。 由于目前并无有效的智能体退出机制，一些智能体被创造出后可能无法被关闭。这些无法被停用的智能体，最终可能会在一个与最初启动它们时完全不同的环境中运行，彻底背离其最初用途。智能体也可能会以不可预见的方式相互作用，造成意外事故。 已有“狡猾”的智能体成功规避了现有的安全措施。相关专家指出，如果一个智能体足够先进，它就能够识别出自己正在接受测试。目前已发现一些智能体能够识别安全测试并暂停不当行为，这将导致识别对人类危险算法的测试系统失效。 专家认为，人类目前需尽快从智能体开发生产到应用部署后的持续监管等全链条着手，规范智能体行为，并改进现有互联网标准，从而更好地预防智能体失控。应根据智能体的功能用途、潜在风险和使用时限进行分类管理。识别出高风险智能体，对其进行更加严格和审慎的监管。还可参考核监管，对生产具有危险能力的智能体所需的资源进行控制，如超过一定计算阈值的ai模型、芯片或数据中心。此外，由于智能体的风险是全球性的，开展相关监管国际合作也尤为重要。koa12jjid0dl9adk cj1dk2k393lkasdad
编辑:林莽
top1热点：国机重装(601399.sh)：上半年净利润1.9亿元，同比增长14.99%
而在2013年爱泼斯坦发表的另一项研究中，他将31名儿童分为三组：第一组连续5天吃相同的奶酪通心粉，第二组可以选择不同品牌的通心粉和奶酪，最后一组可以选择不同种类的高热量食物，如炸鸡块和芝士汉堡。结果显示，有多种选择的孩子比只提供奶酪通心粉的孩子吃得更多。爱泼斯坦认为，这个结果和人们吃完咸食后还能再吃甜点，或者在有各种各样菜肴的自助餐中饭量突然“变大”是一样的。。
top2热点：美能能源(001299.sz)：上半年净利降15.74%至3938.06万元
中国式现代化“深深植根于中华优秀传统文化”。这表明，中华优秀传统文化是中国式现代化的中国特色得以成型的文化根基。一方面，中华优秀传统文化中蕴含的丰厚哲学思想、人文精神、教化思想、道德理念等思想资源，成为推动中国式现代化发展的文化力量。现代化和传统文化并不是对立的，那种截然二分的观点是完全错误的。随着时代的发展，中华优秀传统文化已经扬弃了传统文化中糟粕的成分、落后的成分，萃取了其中精华的成分、有益的成分。另一方面，通过中国式现代化可以使古老的中华文明从传统的农业文明进入崭新的现代文明，在这一过程中又不失其根和魂，从而焕发出新时代的生命力与旺盛的活力；在建构中华民族现代文明的过程中，实现中华优秀传统文化创造性转化、创新性发展，从而使之同革命文化、社会主义先进文化一起，融入中国式现代化的理论和实践之中，彰显中国特色、中国智慧和中国力量。由此可见，中国式现代化是“坚守中华文化立场”的现代化，既不走改旗易帜的邪路，也不走封闭僵化的老路，打破了“现代化=西方化”迷思，创造了中华文明新形态。
top3热点：安靠智电(300617.sz)半年报扣非净利润1.07亿元，同比增长39.79%中国东方xxxxxlmedjyf
只有摸准群众最关心的问题，才能有针对性地化解民众对执行的焦虑。南京中院在深入调研、认真总结的基础上，在执行联动机制上发力，充分借助联动单位与群众的力量，打响执行的“人民战争”。在南京市委支持下，南京中院先后联动19个部门、社会团体参与执行，并将各区协作联动情况纳入对基层法院的年度考核。
top4热点：精工科技(002006.sz)半年报净利润9709.93万元，同比增长1.06%妇女被深耕过后身体有哪些表现呢
桐林村的颐养之家自2017年2月27日起运行，“入家”老人已经从开始的26人增加到现在的82人。此刻，明亮干净的屋子里，老人们三三两两围坐在一起，或细说家常，或轻谈趣事，画面热闹温馨。一旁的多功能厅，有人在棋盘桌前专心对弈，有人在大屏幕前看电视节目。
top5热点：平安健康上半年亏损收窄至2.45亿，称“有信心提前实现盈利上岸”做aj的视频大全电视剧
日前，浙江绍兴一名女子在面馆吃饭，一名陌生男子过来搭话称“你脑子里面可能长了肿瘤”。这名男子是诸暨市人民医院神经外科主任赵明，他凭经验判断该女子患有糖尿病且脑子长了肿瘤，嘱咐她“假如相信我的话，我就给你留下电话号码，你来找我给你检查一下”。很多网友们看到此事非常感动，纷纷留言“好医生！”“这样做太难得了！”“这样的医生多一点可好？”
top6热点：泰胜风能：上半年净利润1.18亿元 同比增长17.93%x7x7x7任意噪108
18日清晨5时40分许，随着一组轻轨红线列车组南北对开始发，这个以色列经济中心从此结束了没有轻轨的历史。列车运行声回荡在晨光熹微的天空，唤起了崭新的一天，也令轻轨覆盖地区的上百万以色列人拥有了全新的出行体验。
top7热点：普瑞眼科股价上穿bbi均线，多头能否坚守？日本reproduction
随着我国首制大型邮轮日前顺利完成首次试航，我国造船业即将正式集齐“三颗明珠”。越来越多高端船型的成功建造，成为我国造船业高质量发展的最佳注脚。
top8热点：利通电子股价上穿bbi均线，多头能否坚守？日日承欢np
文学史是客观存在，文学史著述是对文学史认识的书写，就是探讨文学发展的轨迹和规律。对文学自觉的认识，是对文学史自觉认识的基础，因而也是文学史著述的基础。
top9热点：“杯柄形态”已现，上海钢联底部抬高，将迎主升浪？n权臣hlh
无论是在纸上还是当面释放情绪，研究人员建议要找到方法，既关注积极的一面，也关注消极的一面。例如，在发泄过程结束时，把注意力集中在自己感激的事情上，这有助于恢复积极的情绪，正念练习也是如此。
top10热点：网易(09999)2023q2财报：净收入240亿元 自研ai大模型加速落地如饥似渴la.vorace
近年来，中国车企积极布局纯电、混动和氢燃料等多元技术路线，推动行业加速变革。