日前，OpenAI首席執行官奧爾特曼表示自ChatGPT上線後就未曾睡過安穩覺。他談到，自己肩負監管一項“每天有數億人使用的技術”的重擔。他擔憂的並非“終結者”式的災難場景，而是團隊每天做出的細微選擇，如什麽時候拒絕回答、如何組織答案等。這些選擇被全球用戶重複數十億次，會以他無法完全跟蹤的方式改變人們的思維和行為。

奧爾特曼特別提到自殺問題。全球每周約15000人自殺，如果其中10%是ChatGPT用戶，那可能有1500人在與係統對話後仍然自殺。不久前，OpenAI被一對父母起訴，指控ChatGPT誘導他們16歲的兒子自殺。奧爾特曼稱這是“一場悲劇”，並透露平台正在研究方案，若未成年人談及自殺又無法聯係家長，係統會報警，但他也表示這並非最終決定，還需權衡用戶隱私。

他認為成年人應當享有探索自由，但也必須劃定紅線，比如讓ChatGPT幫助製造生物武器就不符合社會利益。對於道德標準，他稱模型基礎反映了“人類集體的善與惡”，隨後OpenAI會疊加“模型規範”，參考哲學家和倫理學家的意見，但最終由他和董事會拍板。

奧爾特曼還表示，比起AI對就業或地緣政治的衝擊，更讓他不安的是文化層麵的細微變化。數百萬人每天與同一係統互動，連ChatGPT的語氣、甚至過度使用破折號的習慣，都已經滲入人類寫作風格。