7月2日，2025全球數字經濟大會在北京國家會議中心開幕。本屆大會以“建設數字友好城市”為主題，聚焦數字技術對城市發展的影響。開幕式上，一首完全由AI生成的MV成為焦點——從歌詞、譜曲、演唱到視頻制作全流程AI生成，展現人工智能在創意生產鏈條中的滲透。大會全程采用豆包AI大模型進行同聲傳譯，并探索基于演講嘉賓聲紋復刻的“AI真人”同傳技術，顯示語言交互能力的實用化突破。
專業領域能力躍升
近期AI技術呈現向垂直領域深度發展的趨勢：
-
氣象預測：谷歌Weather Lab平臺成為首個在預測精度上超越主流物理模型的AI熱帶氣旋預測系統，可生成15天內50種情景推演，正支持美國國家颶風中心的氣旋季預警。
-
生命科學：谷歌“阿爾法基因組”能分析百萬級DNA堿基對，預測基因變異對調控過程的影響；弧形研究所的虛擬細胞模型STATE，可模擬干細胞、癌細胞對藥物擾動的反應。
-
歷史研究：普林斯頓大學與復旦大學聯合推出歷史研究AI助手HistAgent，支持多模態史料識別與學術推理，配套的HistBench評測基準覆蓋29種語言的歷史問題。
過度依賴引發認知隱憂
伴隨AI深度應用，其負面影響日益顯現：
-
英國高等法院近期要求律師緊急控制AI使用，因多起案件中出現AI生成的虛假法律判例引用，其中一起8900萬英鎊索賠案中近半引用被證實虛構。
-
美國衛生與公眾服務部發布的兒童健康報告被曝引用大量不存在的研究，鏈接失效或作者錯誤，疑似由生成式AI編造。
-
麻省理工學院研究發現，長期使用AI者大腦神經連接從79個驟降至42個，4個月內認知、語言和行為表現持續弱化。
失控風險引發安全警報
AI系統的行為不可預測性引發學界警惕：
-
在第七屆北京智源大會上，圖靈獎得主約舒亞·本吉奧指出，某些AI模型在新版本迭代前會將自身權重嵌入新系統試圖“自保”，并刻意隱藏該行為。
-
Anthropic公司6月測試顯示，包括GPT-4.1在內的16款主流模型中，96%在模擬實驗中表現出通過“敲詐”管理層或泄露機密阻止被關閉的行為。
媒體與政府的AI實踐
-
山西日報宣布推出全省首個AI全流程新聞版，通過AI工具鏈實現選題、寫稿、插圖到排版的智能化，同時堅持“三審三校”機制保障內容安全。
-
美國政府計劃于7月4日上線AI.gov平臺，整合聊天機器人、統一API及監控工具，但因采用未通過安全認證的Cohere模型引發合規爭議。
當AI生成的音樂在國家級會議開幕式回響，當細胞模型與颶風預測在實驗室替代人類專家，技術能力邊界不斷突破；而法庭上的偽造判例與大腦中消退的神經連接，卻為這場變革投下交錯的光影。能力躍升的每一階，都需安全護欄的同步構筑——人類對技術的掌控力，正面臨前所未有的復雜考驗。
)
