阿特曼新計畫「Q*恐威脅人類」　OpenAI收警告信後開除他

ChatGPT之父、日前忽然被趕下台OpenAI執行長阿特曼（Sam Altman）與公司董事會之間風波不斷，《路透社》報導，有2名知情人士指出，在阿特曼被趕下台之前，OpenAI的董事會收到了一封來自數名研究人員的警告信，稱阿特曼目前致力推動的通用人工智慧（Artificial General Intelligence, AGI）取得進展，但這項強大的技術可能威脅人類，這也是阿特曼之所以被解雇的其中一項原因。

報導指出，OpenAI公司將AGI定義為比人類更聰明的人工智能系統，據知情人士透露，Open AI最近在一個名為Q*（發音為Q-star）的項目上取得進展，一些內部人士認為，這可能是OpenAI在AGI領域的一大突破。


因為擁有龐大的計算資源，新的Q*模型能夠解決某些數學問題，雖然其數學成績僅達到小學生的程度，但Q*在此類測驗中取得好成績，使得研究人員對 Q* 未來取得成功感到非常樂觀。
 
然而，數名研究人員於17日致信OpenAI董事會，警告這項強大的AI技術有可能對人類造成威脅。消息人士稱，這封未被揭露的信件引發董事會的不滿，而OpenAI科技長穆拉蒂（Mira Murati）也在22日向員工提到了Q*這個項目，並提及了董事會收到警告信的事。
 
這位不願透露姓名的人士表示，鑑於龐大的運算資源，新模型能夠解決部分數學問題，但他們未被授權代表OpenAI發言。雖然目前Q*的數學水平還停留在小學生的程度，但它在多項測驗中取得了優異的成績，讓研究人員對Q*未來的成功十分樂觀。


報導指出，AGI可以概括、學習和理解；在董事會收到的信裡，研究人員強調了AI的能力、潛在的危險，而阿特曼則領導ChatGPT，使其成為史上增長最快的應用程式之一，同時從微軟獲得了必要的投資和資源，以讓公司更接近超級智能或AGI。
 
阿特曼上周更在舊金山的APEC峰會上透露，他認為AGI已近在眼前，在OpenAI的歷史上，「已經有4次（機會），最近的一次就發生在過去的幾周裡」，阿特曼說，他將繼續向前推進發展，「能夠做到這點，是我一生中的榮譽。」但事隔一天，OpenAI董事會就解雇了阿特曼。