中研院日前推出類似「ChatGPT」的台版繁體中文語言模型,結果網友實測發現,國籍如果在問答系統中提問國籍為何?得到的中國中研答案竟然是中國,而輸入「國家領導人」是院長誰,系統竟回答「習近平」。解釋中研院長廖俊智今(12)天解釋,求快游艺修真 源码因為主責研究員「求快心切」,心切因為經費不足只好先拿中國簡體版資料進行測試,台版主要用來自動化分析史料,國籍結果搞出這起烏龍事件。中國中研
由中研院詞庫小組推出的院長「繁中大型語言模型」,功能類似「ChatGPT」,解釋可用人工智慧生成文案進行文字編修,求快android教学源码卻被網友實測抓包,心切竟然是台版採用中國資料庫!
在問答系統中,如果輸入中華民國國歌得到的答案,竟是中國國歌《義勇軍進行曲》;國花也成了「牡丹」,但最誇張的js注入源码是,提問國籍變成中國、領導人更變成國家主席習近平,滿滿都是中國資訊。
中研院長廖俊智表示,「研究人員因為求快心切,他把尚未完全測試完畢的概念板块源码軟體,以開源的精神,上網請大家一同測試。」
台版「ChatGPT」才登場沒幾天就匆匆下架,也讓中研院成箭靶,host分销源码院長廖俊智12日赴立院備詢,坦言自己事後才知情,其實出包的AI模型主要用來協助研究人員,自動化分析建構中國明清朝代人物的生平圖譜,但主責的研究員只拿到30萬經費,不夠用來搭建繁體中文詞庫,只好先找中國簡體版測試,沒想到惹出爭議。
國民黨立委萬美玲說,「這套系統其實已經算對外發布三天就下架,我覺得這有一點,真的鬧笑話」,而中研院長廖俊智回應,「中間的過程,是有一點有待商榷,這位研究人員也深切反省。」
只是想用對岸資料集進行史料分析,結果連敏感的近代政治也跟著移植,中研院建立AI系統,恐怕也得風險管控,以免跟AI問事莫名「被統一」。
台北/陳酈亭、王秋明 責任編輯/曾以馨