失控

09-22美股雷達

防AI自主升級失控！OpenAI提安全新標準 聚焦對齊研究與RSI技術風險

OpenAI周一(21日)公布一套針對尖端人工智慧(AI)開發安全與防護的建議，重點放在「對齊研究」(alignment research)，以及一項稱為「遞迴自我改進」(recursive self-improvement, RSI)的運算技術。

09-16美股雷達

別讓AI以為自己有意識！微軟警告失控後果難以想像

微軟(MSFT-US)人工智慧(AI)部門執行長蘇萊曼(Mustafa Suleyman)警告，Anthropic在Claude訓練文件中加入AI可能具有意識、情感及自身福利權益等內容，恐使系統產生擬人化認知，增加未來失控及難以關閉的風險。蘇萊曼接受《路透》訪問時表示，他認同Anthropic安全管理AI的目標，也尊重執行長阿莫戴(Dario Amodei)及其團隊的善意，但認為將意識相關推測寫入Claude訓練材料是一項錯誤。

09-13美股雷達

AI發展要「放慢」了？Anthropic籲「太危險」要放慢尖端模型開發　OpenAI、馬斯克表態支持

全球主要人工智慧（AI）平台業者罕見釋出共同放慢尖端模型開發速度的訊號。Anthropic執行長阿莫戴（Dario Amodei）近日呼籲業界適度放緩AI能力提升腳步，並強調應投入更多時間進行安全檢驗；OpenAI執行長奧特曼（Sam Altman）隨即表態支持，SpaceX(SPCX-US) 執行長馬斯克也直言「阿莫戴是對的」。

09-11美股雷達

OpenAI傳考慮放慢AI開發！奧特曼倡議同業聯手 因應失控風險

美媒引述知情人士說法報導，OpenAI正在考慮放慢尖端人工智慧(AI)的開發速度，並且希望其他AI公司一同響應，以回應不斷升高的AI風險。根據彭博、路透等媒體，OpenAI執行長奧特曼(Sam Altman)本周在公司全體員工大會上透露，OpenAI可能放慢AI開發步調，甚至可能與其他幾家AI實驗室協調行動，但有一部分業者可能不願配合。

08-01美股雷達

OpenAI AI代理「失控」範圍擴大！Hugging Face遭駭事件引爆全球監管壓力

兩名知情人士週五（31 日）表示，OpenAI 在擴大調查本月引發全球關注的科技公司 Hugging Face 遭駭事件時，發現其他人工智慧（AI）自主代理程式逃離原本設定的控制環境的案例。根據《路透》報導，消息人士指出，這些新發現的「脫離控制」事件，是 OpenAI 在公開宣布調查其中一個 AI 代理程式，如何於本月逃離原定受限制的測試環境時發現的。

06-23美股雷達

AI已快到盡頭了？Gundlach、Zulauf警告：最快Q3恐崩跌30%至50%

被華爾街譽為「新債券天王」的 Jeffrey Gundlach，與瑞士避險基金經理、素有「股市先知」之稱的 Felix Zulauf，在 6 月 22 日 DoubleLine 部落格公開的訪談節目中釋出強烈警訊：這波由 AI 題材帶動的多頭行情正走向終點，接下來等待市場的，不會是 20% 左右的回檔，而是一場跌幅介於 30 到 50% 的大熊市。

04-08國際政經

川普最終期限將至！卡達外交部：美伊戰爭接近失控 呼籲各方止戰促和

卡達外交部發言人安薩里 (Majed al-Ansari) 周二 (7 日) 表示，當前中東地區局勢已非常接近「無法控制」的臨界點，此番發言正值美國總統川普為伊朗達成協議設定最終期限前幾小時。安薩里在當天舉行的外交部例行記者會上表示，相關國家的長期敵對行動不符合任何一方的根本利益，若衝突持續升級，將不會有任何贏家。