中央社報導,METR指出,大語言模型能力呈現指數型成長,每7個月翻倍,遠超過摩爾定律(指晶片上可容納的電晶體密度,約每18至24個月便會增加1倍),倘若這樣的趨勢持續下去,到了2030年初,AI幾小時便能勝任人類花1個月才能完成的任務。
METR研究人員奇尼蒙(Megan Kinniment)進一步闡述,「1個月」是指167小時,也就是人類每個月投入的工作時數,目前模型成功完成任務的可靠性機率約50%。
奇尼蒙分析,就這樣的結果來看,AI對經濟層面上的衝擊或許沒有預想中來得劇烈,但足以加速AI自身研發,形成AI打造AI,導致AI能力極為快速發展。如此一來,人類的控制將變得更加困難,全世界都將面臨巨大的適應壓力。
奇尼蒙指出,最先進AI可能帶來的風險,不僅是單純的失業潮問題,還有更深層的社會和政治結構瓦解風險;倘若幾乎所有人類都失業,或者所有工作都不再需要人類來執行,「你可能也不需要人類來維持軍隊運作,或者只需要極少數人運作」。
奇尼蒙表示:「這樣的情況會讓某個人或某個組織更容易發動政變或奪權。」
另外一個風險是,如果有一大批類似天才的AI被集中在某個資料中心,這會讓擁有它的人變得極其強大。一旦這樣的智慧被用來生產軍事裝備,那麼權力很可能會被高度集中,「甚至導致民主制度瓦解」。