安全
隨著企業透過API調用雲端大型語言模型(LLM),使用者難以確認服務商實際提供的模型是否與宣稱一致,也無法得知生成內容是否遭到中間路由機制替換或惡意竄改。對此,Anthropic 近日公布研究成果及程式碼原型FlashProve,試圖透過零知識密碼學證明,讓使用者在不取得模型權重的情況下,也能驗證每次推論確實由指定模型執行。
俄羅斯、烏克蘭與美國預計下週在阿拉伯聯合大公國首都阿布達比重啟三方談判,這將是三方相隔9個月再次舉行面對面會談。與此同時,俄羅斯週六(7日)清晨對烏克蘭首都基輔發動飛彈攻擊,飛彈碎片擊中住宅大樓,造成建築物受損,至少2人受傷。美國總統川普對談判前景釋出樂觀訊號,聲稱各方距離達成協議已「非常接近」,甚至可能促成涵蓋整個歐洲的安全協議;不過,烏克蘭官員對此次會談的預期相對審慎,認為不應期待取得突破性進展。
美股雷達
OpenAI週一(2日)宣布,延攬美國前陸軍部長德里斯科爾(Dan Driscoll)加入公司,擔任新設立的「國家安全現代化資深顧問」,協助公司探索先進人工智慧(AI)技術在國家安全與網路安全領域的應用。根據《路透》報導,OpenAI表示,德里斯科爾將直接向公司領導層提供建議,並與外部合作夥伴共同研究如何運用先進AI技術強化國家安全及資安防護。
幣圈
全球最大加密貨幣交易所幣安(Binance)表示,將於週日分階段恢復提款服務。在遭駭客攻擊、導致平台價值63億美元的資產遭竊後,公司已動用自有資金買回替代代幣,目前已補足其中60億美元的損失。美國官員指出,這起攻擊是由北韓政府支持、名為 TraderTraitor 的駭客組織所發動。
美股雷達
隨著企業對雲端服務、遠距辦公及人工智慧(AI)應用的需求持續增加,身分識別與網路安全平台業者Okta(OKTA-US) 股價今年大幅走高,如今更進一步獲選納入標普500指數(S&P 500),成為美國大型股指標的新成分股。根據《MarketWatch》報導,標普道瓊指數公司(S&P Dow Jones Indices)週五發布聲明表示,Okta將於週三(11月4日)美股開盤前正式加入這項指標性股價指數。
美股雷達
全球人工智慧(AI)需求持續推升記憶體價格,OpenAI執行長奧特曼(Sam Altman)卻對個人電腦保留大量記憶體的做法提出質疑,認為從全球資源配置角度來看,讓有限的DRAM分散在個人電腦中、長時間處於閒置狀態,並不是有效率的安排,記憶體資源應集中至雲端資料中心,以提高整體使用率。
美股雷達
人工智慧(AI)新創公司 Anthropic 於10月26日向美國證券交易委員會(SEC)提交 S-1 註冊聲明,正式啟動首次公開募股(IPO)程序。市場傳出,此次募資規模可能高達1,000億美元,有望刷新全球 IPO 紀錄。這家成立僅五年的公司,也首度透過公開文件揭露財務狀況、公司治理及 AI 安全風險。
國際政經
地區安全官員齊聚卡達首都為美伊可能出現的新一輪衝突升級做準備之際,聽到了美方傳遞出的一個令人警醒的訊息:各國需要更加依賴自身力量確保安全。美國駐土耳其大使、川普總統的敘利亞和伊拉克問題特使湯姆·巴拉克(Tom Barrack)表示,數十年來支撐全球安全的重大戰略安排正在發生深刻變化,中東及其他地區的國家應著力通過地區夥伴關係確保自身安全。
美股雷達
OpenAI解雇3名人工智慧安全研究人員的爭議持續擴大。OpenAI於10月9日重申, 公司是在內部調查發現員工違反敏感資訊處理規定後, 才決定與3人終止雇傭關係, 強調這是涉及重大信任破裂的事件, 並非因為他們提出人工智慧安全疑慮或公開表達不同意見。
美股雷達
人工智慧(AI)公司Anthropic更新旗下聊天機器人Claude的使用政策,新增禁止使用者持續且無必要地對AI進行「辱罵」或「殘酷對待」的規定,同時擴大對政治與商業欺騙、武器開發、非法監控及非自願親密影像等行為的限制。根據《MacRumors》報導,Anthropic表示,這項針對AI虐待行為的規定僅適用於極端情況,即用戶在「無明顯目的」的情況下對 AI 模型「反覆表現出殘忍行為」。
國際政經
美國持續尋求結束俄烏戰爭,美國總統川普的特使魏科夫(Steve Witkoff)與女婿庫許納(Jared Kushner)預計週五(9日)在邁阿密與烏克蘭代表會面,討論新的和平構想,並試圖整合各方提案,形成一套解決戰爭的共同方案。根據《路透》報導,美國國務卿盧比歐(Marco Rubio)週四(8日)表示,俄烏戰爭已陷入危險的僵局。
美股雷達
TikTok及其母公司字節跳動(ByteDance)遭紐約州檢察長Letitia James指控,曾在數千名使用者身上測試沒有實際作用的「幽靈」或「安慰劑」安全功能,其中包括青少年與兒童。紐約州指稱,這些使用者以為自己已啟用能降低有害內容曝光的安全工具,實際上卻被分配到無作用的版本,而TikTok利用這些測試觀察使用者停留時間及廣告營收等指標。
歐亞股
長期看好人工智慧(AI)發展的軟銀集團(SoftBank)創辦人孫正義,近日罕見對 AI 潛在風險發出警告,直言隨著 AI 能力快速提升,若超級智慧落入錯誤人士手中,恐帶來極其危險的後果,呼籲各國放下對立、加強合作,共同應對日益強大的 AI 威脅。
美股雷達
美國白宮上週二舉行人工智慧(AI)峰會,會議結束後,科技巨頭與美國總統川普在媒體面前的互動意外成為焦點,網路上掀起一波對與會者肢體語言、彼此關係及權力動態的熱烈討論。包括Meta(META-US) 執行長祖克柏(Mark Zuckerberg)、特斯拉(TSLA-US) 執行長馬斯克(Elon Musk)、Anthropic執行長阿莫戴(Dario Amodei)、輝達(NVDA-US) 執行長黃仁勳、Google(GOOGL-US) 執行長皮查伊(Sundar Pichai)及OpenAI總裁布羅克曼(Greg Brockman)等皆齊聚一堂,討論AI安全與資料中心建設。
美股雷達
一名前 OpenAI 安全研究員近日離職後,批評公司對人工智慧(AI)安全的處理方式,認為企業文化過度追求快速開發,導致開發步調過於急促,增加系統發生失誤的風險。根據《路透》報導,OpenAI前安全研究員羅賓森(David Robinson)近日離職後,週六(3日)在《大西洋》發表題為「I Quit OpenAI Because Its Culture Is Broken」的文章。
國際政經
美國總統川普傳將任命國家情報總監克萊頓(Jay Clayton)擔任白宮人工智慧(AI)最高顧問,出任川普過去所稱的「AI沙皇」(AI czar),負責協調政府內部的AI相關決策。根據《路透》引述知情人士透露,克萊頓預計在接掌新職務的同時,繼續擔任國家情報總監,掌管美國18個情報機構。
美股雷達
人工智慧(AI)公司Anthropic在首次公開發行(IPO)公開說明書中警告,政府對公司及其技術的態度,可能影響商業客戶、合作夥伴與其他業務關係。據《路透》取得的文件,政府機關合約占Anthropic全年營收不到1%,但政策衝擊可能延伸至更廣泛的業務。
美股雷達
美國總統川普週二(29日)在白宮與全球主要人工智慧(AI)企業領袖舉行閉門午餐會,會後宣布政府已與多家科技公司就AI治理達成原則性協議,將監管重點放在企業自律,並表示正式將「AI」更名為「超級智慧」。本次午餐會匯集了全球科技業最具影響力的一群人物,包括特斯拉(TSLA-US) 及SpaceX(SPCX-US) 執行長馬斯克、亞馬遜(AMZN-US) 創辦人貝佐斯、Meta(META-US) 執行長祖克柏、微軟(MSFT-US) 執行長Satya Nadella、Google(GOOGL-US)執行長Sundar Pichai、輝達(NVDA-US) 執行長黃仁勳、Anthropic執行長Dario Amodei、OpenAI總裁Greg Brockman,以及Palantir(PLTR-US) 的Alex Karp與Shyam Sankar。
美股雷達
OpenAI近期公布一套針對尖端人工智慧(AI)強化學習訓練的安全準則。按照這套框架,在啟動或持續任何尖端強化學習訓練前,團隊都必須完成系統性的安全論證,且高階管理層成員擁有否決訓練的權力。根據OpenAI官方部落格,這套準則涵蓋技術防護、營運管理及失準事件調查三大領域。
美股雷達
美國總統川普當地時間週二(29日)將在白宮與6家科技巨頭執行長共進午餐,而人工智慧(AI)的監管將成為此次會議的核心議題。根據《Politico》報導,知情人士表示,與會者包括Meta(META-US) 執行長祖克柏(Mark Zuckerberg)、Anthropic執行長Dario Amodei、OpenAI總裁Greg Brockman、Google(GOOGL-US) 執行長皮查伊(Sundar Pichai)、Palantir(PLTR-US) 執行長Alex Karp及輝達(NVDA-US) 執行長黃仁勳,眾議院議長Mike Johnson也將出席。