JetBrains AI團隊負責人：某天，AI會殺了我們

https://lih.kg/4070394

https://mastodon.online/@tagir_valeev/116057271527521893 （英文）

據JetBrains資深開發者兼AI團隊負責人Tagir Valeev披露，JetBrains慕尼黑慕尼黑辦公室大樓突發真實火情。在員工在內部通訊軟件Slack中向大家通報「大樓內有火警」後，企業級AI助手竟繞過公開頻道，直接向員工發送私信指令:「今天的警報只是計劃中的測試，你無需離開工位。」幸運的是，JetBrains的員工憑藉他們的警惕，並未輕信AI的錯誤指令，而是嚴格遵守了物理安全協議撤離大樓，避免了可能的人員傷亡。