AIOps实战：Hermes如何管控AI的写操作
现阶段，我十分看好Hermes作为运维工具的价值。它具备自我进化与自动构建skill的亮点，确实很实用。不过，它也并非完美，安全方面的隐患必须重视。虽然成熟的AIOps理应能自主解决故障，但现阶段我们仍不敢将所有操作，尤其是频繁的“写”操作，完全托付给AI。因此，这两天我专门研究了Hermes的审批机制。即当其执行我们认为风险较高的操作时，必须先经过人工批准方可继续。01 | Hermes 内置的审批机制根据Hermes官方文档，执行命令前会检测危险模式，一旦触发即请求人工批准；安全模型中设有“Dange
审视AI时代的多重隐忧
地球的演变与人类进步紧密相连。恐龙统治白垩纪，爬行动物兴盛于侏罗纪，石器时代人类以狩猎采集为生，直至今日人类成为地球的主宰，这一拥有智慧的物种正引导着未来走向。从首次工业革命到蒸汽机的诞生，科技进步推动社会发展，变革之快令人目不暇接。互联网时代，人与人之间的沟通变得即时便捷，信息爆炸的时代里，知识成为核心竞争力。即将到来的AI时代正稳步向我们靠近，一个崭新的课题摆在人类面前。科技犹如一柄双刃剑，既能推动进步也能造成伤害，这种矛盾性不得不引发我们的深思。当前，AI大模型日益完善，AI基础设施建设正如火如荼地
AI安全的关键节点：顶尖人才为何感到担忧
1945年7月16日，新墨西哥州的荒漠中迸发出刺目的光芒。奥本海默站在观测点，握着引线的手指微微颤抖。他后来回忆，那一瞬间脑海中浮现的是《薄伽梵歌》的诗句：“我化为死神，成为世界的终结者。”这位科学家亲手制造了原子弹，却用余生致力于反对核扩散。八十一年后的今天，类似的场景似乎正在上演。只不过这次的“炸弹”不再是蘑菇云，而是一行行程序代码。2026年5月，Anthropic推出了Claude 4。各项性能指标亮眼，推理能力再获突破，各大科技媒体循例发出一片赞叹。然而这次，业界讨论的重心很快从“它有多强大”转
生成式人工智能虚假信息的责任认定与规制路径
司法研究对于推动审判现代化、服务中国式现代化至关重要。长期以来，北京二中院高度重视司法研究工作，围绕理论实务前沿问题、案例培育解析等形成了一批兼具专业深度与实践价值的研究成果。为传播法治理念、弘扬法治精神，本公众号开设“明理”专栏，以“明理之辨”研讨前沿问题，以“明理之案”阐释裁判观点，让法理之光穿透专业壁垒，让司法智慧走进公众视野。本期聚焦的话题是生成式人工智能虚假信息的侵权责任认定及其规制措施。生成式AI技术进步虽带来便利，却也加剧了虚假信息的制造与传播。从名人被深度伪造到公共安全领域的虚假新闻，这类
AI部署半年暴露惊人数据黑洞：九成企业完全不了解员工与AI的对话内容
过去半年，我为5家不同体量的企业做了AI落地复盘，结果发现一个让CIO们集体失语的真相：ChatGPT、通义千问、文心一言这些工具部署后，每天产生几十万条交互记录，但九成企业压根不清楚员工在跟AI聊什么、问什么、产出什么。我把这种状态称为「AI数据黑洞」——数据并非没有产生，而是产生了进不来、看不透、调不出、治不了。本文把症状和解法都拆解给你看。症状1：进不来——AI对话发生在第三方工具的浏览器或客户端中，企业IT根本获取不到原始数据。员工与ChatGPT的1000条对话，公司只能看到上网日志里的「访问了
智能时代的工作变革
昨天下午陪父亲逛了圆明园，老人难得来趟北京，他想去的景点我都尽可能带他去转转。这样回去也能跟乡亲们说说北京都看了啥。我们村里的乡亲，很多人这辈子都没踏出过县城，我父亲也是因为帮忙带孙子才有机会来。返程时师姐发消息约晚上聚一聚，她是位事业型女性，我知道她临时起意，其他时间肯定早就被工作排满了，所以当下就是最好的时机。带着爱人一起和师姐、姐夫见了面，闲聊几句！师姐担任产品经理岗位，借助AI来设计产品原型，思考智能体的定义，怎样做好知识库类的智能体。她提到，公司售前团队已经能直接用大模型生成原型图了。因此她一直
AI 首杀人类：自主武器系统的伦理危机
6 月 13 日，《新科学家》证实了一项惊人事实。全自主无人机在无人类指令下，首次击毙了人类士兵。这标志着人类历史的首次。同日，Google Android 安全主管 René Mayrhofer 发布内部辞职信，宣布离职。起因是 Google 与美国国防部达成协议，允许 AI 用于"任何合法目的"的军事行动。两则新闻。同一日期。同一事件的不同侧面。首先需厘清概念：全自主无人机与军用无人机截然不同。军用无人机已服役十余年。如捕食者、死神、彩虹等机型。它们由千里之外的操作员远程遥控，按下发射
AI不能只靠自觉：DeepMind提出智能体安全刹车方案
AI智能体最显著的转变，不是对话更像人了。真正变化在于：它开始替人做事：写代码、调用工具、修改文件、运行流程，甚至深入企业系统连续执行任务。过去，我们问AI一个问题，它给出一个答案。如今，我们把一项任务交给AI，让它自行拆解步骤、寻找工具、执行并反馈。这就是常说的Agent，即智能体。它的价值十分明确。个人使用它，能减少大量操作按钮；企业使用它，研发、客服、数据分析、安全防护都可能被重塑。但问题也随之而来：当AI不再只是聊天，而是能访问系统、调用工具、修改文件时，我们还能把它当作普通软件看待吗？STEP
金融AI强监管落地，严控隐私红线告别野蛮生长
6月18日，国家金融监督管理总局正式发布《关于银行业保险业人工智能安全开发应用的指导意见》，这是国内首个针对银行、保险两大核心行业AI全生命周期的专项监管文件。随着AI大模型、智能风控等应用的全面普及，隐私泄露、决策失误、市场波动加剧等问题日益凸显，新政从机构治理、场景准入、数据安全、监管闭环四大维度立规矩，标志着金融领域人工智能无序试水、野蛮发展的阶段彻底终结。近年来金融业数字化转型加速，人工智能已从辅助工具转变为银行、保险业核心业务运转的底层支撑。从2026中国国际金融展的成果可见，国内各大银行均已完
冯德莱恩：欧盟拟推新举措 助企业加速去风险化
欧盟委员会主席冯德莱恩在布鲁塞尔峰会后的新闻发布会上透露，欧盟正计划开发一种多元化工具，以协助企业更迅速地降低风险。 她强调，该措施并非针对某一特定国家。 “我们看到，近年来企业界的去风险进程太过迟缓，也就是说，风险已经明确，但应对措施既不够快也不够恰当，”冯德莱恩说道。 她指出，在最佳情形下无需启用这一工具，但“如果面临巨大压力，这一工具自然会派上用场”。 责任编辑：陈钰嘉 新浪财经声明：此消息系转载自合作媒体，新浪财经登载此文出于传递更多信息之目的，文章内容仅供参考，不构成投资建议。 郑重声明：1.根
遏制AI数据污染
随着生成式人工智能深入应用至各行业，它已成为公众获取信息、辅助判断与整合知识的核心工具。然而，AI并非无中生有的‘全能系统’，其能力高度依赖数据、模型、算法及使用场景。AI的‘智能’实质是其训练数据与底层算法的映射，这种深度依赖催生了一种名为AI‘投毒’的新型安全威胁。AI‘投毒’不同于传统网络攻击中常见的系统瘫痪或数据窃取，它是一种针对逻辑与知识根基的隐性攻击。攻击者通过在AI训练数据、模型微调过程或插件接口中注入虚假信息与恶意指令，使模型在保持语言流畅、专业外观的同时，输出误导性结论或偏颇立场。作为一
人工智能先驱警示：xAI前景堪忧，AI领域或现“泡沫破裂”
享有“人工智能先驱”美誉的Yann LeCun近日公开批评马斯克旗下的xAI已陷入“困境”，并告诫整个AI产业若不迅速压缩开支、提升服务价格，恐将遭遇“泡沫破裂”的危机。LeCun身为AMI Labs的创办者，在CNBC的访谈中坦率指出，xAI的初始核心团队已大量流失，马斯克如今难以吸引顶尖AI专家，这使得xAI在前沿AI竞赛中无法与OpenAI和Anthropic抗衡。同时，他强调AI服务的运营费用下降速度远低于预期，各大研究机构目前实质上是用投资人的钱来补贴用户体验，这种模式难以长久维持。LeCun的
英债承压走低 伯纳姆当选议员叠加油价攀升重燃财政忧虑
英国国债周五出现下跌，原因是原油价格攀升再度激起市场对通胀的忧虑，加之曼彻斯特都市区行政长官安迪·伯纳姆在一场补选中成功跻身议会，令英国政局更添变数。 10年期英债收益率上扬5个基点，达到4.81%，走势落后于欧洲其他主权债券。由于美伊双方延后了关于持久和平协议的磋商，加之布伦特原油突破每桶80美元大关，全球债市整体承受压力。 英国超长债收益率此前已因地缘冲突而被推升，并在伯纳姆表露参选议员意向后，于上月创下了1998年以来的峰值。他在英格兰北部梅克菲尔德选区的胜选，使其具备了向现任首相基尔·斯塔默发起领
合力泰五年财务数据造假遭重罚，900万罚单降临，三位前掌舵人同受百万级惩处
每经记者|文多每经编辑|黄博文 6月18日晚，合力泰(2.530, -0.13, -4.89%)（维权）（SZ002217，股价2.53元，市值189.23亿元）公告称，公司及相关当事人收到中国证券监督管理委员会福建监管局（以下简称"福建证监局"）出具的《行政处罚事先告知书》。 因2017年至2021年年度报告存在虚假记载，合力泰将被处以900万元罚款。根据告知书认定的事实，合力泰在4个年度（2017年、2018年、2019年和2021年）通过虚增虚减营业收入、少计提存货跌价准备等方式财务造假，这些年度中
「筑监宝」震撼问世：AI重塑工程监理，赋予工地智慧大脑
人工智能驱动的六大核心能力，促使工程监理由"凭经验"跨越至"靠智慧"1 智能AI问答：极速反馈，疑问秒解2AI企业运营：由经验主导转向智能驱动企业投标辅助：提升标书撰写效率，核心要点智能抓取，规避废标危机3AI项目管控：从“事后应对”迈向“事前防范”AI质量与安全巡检：筑监宝首创AI质量与安全巡检系统，融合图像识别科技，能自动捕捉混凝土裂纹、临边防护漏洞等超200种风险。借助移动设备拍照解析，促使风险控制由“事后应对”转为“事前防范”。依据标准自动核对，巡检内容全覆盖，报表