75歲的辛頓有「AI教父」之稱,他在神經網絡、深度學習方面的工作成果,塑造了當今的AI系統。辛頓為谷歌服務了10年,協助這家科技巨頭開發AI系統,但他最近對這項技術感到憂心。
在週一的一則推文中,辛頓說,他離開谷歌是為了能自由談論AI的風險,並不是想批評谷歌。辛頓的推文寫道,「我離開是為了能談論AI的危險,不需考慮這對谷歌的影響。谷歌的行為非常負責任。」
《紐約時報》率先報導了辛頓離職的決定。他對《紐時》說,他有些後悔他所做的工作,只能安慰自己說,「如果我不做,其他人也會做。」辛頓憂心表示,「很難看出如何防止壞人利用它(AI)做壞事。」
辛頓還提到,他擔心AI可能造成許多人失業,並使網路上充斥著假的照片、影片和文字,人們將「無法辨別真假」。
他還指出,AI驚人的進步速度超出他的預期,隨著科技公司改進AI系統,它們會變得越來越危險。
辛頓說,過去有人擔心AI有一天會比人聰明,「我曾認為這是不可能的,那至少是30年到50年之後的事。但顯然我現在不再這麼想了。」有專家表示,所謂的AI威脅是假設性的;但辛頓認為,谷歌、微軟(Microsoft)及其他公司之間的競爭,將升級為一場全球競賽,若沒有國際監管,這場競爭不會停止。
目前,OpenAI、微軟和谷歌是AI技術的領先者,但IBM、亞馬遜(Amazon)、百度和騰訊也在開發類似的技術。
今年3月,許多科技界名人簽署公開信,呼籲高階的AI開發至少暫停6個月,以制定有關AI的共享安全協議,否則可能對「社會和全人類構成深刻風險」。◇