最新研究發現人工智能與人類差距顯著

原文地址：http://news.sciencenet.cn/htmlnews/2023/3/495480.shtm

中新網北京3月7日電 (記者 孫自法)近些年來，人工智能(AI)技術的迅猛發展和廣泛應用，因其很多方面的優越表現超過人類而備受關注。不過，中國科學院自動化研究所(中科院自動化所)團隊最新完成的一項研究發現，基于人工智能的神經網絡和深度學習模型對幻覺輪廓“視而不見”，人類與人工智能的“角逐”在幻覺認知上“扳回一局”。

受人類和生物視覺系統中廣泛存在的幻覺輪廓現象啟發，中科院自動化所曾毅研究團隊提出一種將機器學習視覺數據集轉換成幻覺輪廓樣本的方法，量化測量當前的深度學習模型對幻覺輪廓識別能力，實驗結果證明，從經典的到最先進的深度神經網絡都難以像人一樣具有較好的幻覺輪廓識別能力，即使是當前最先進的深度學習算法在交錯光柵效應(幻覺識別能力之一)的識別上也與人類水平相距甚遠。

這項人工智能與人類在幻覺輪廓方面尚有顯著認知差距的重要研究成果論文，近日在細胞出版社旗下專業學術期刊《模式》(Patterns)上發表。該研究表明，目前，人類的視覺系統在幻覺認知問題上具有高度魯棒性(也稱穩健性，一般指在異常和危險情況下系統自適應能力強健穩定)，基于人工智能的深度學習系統與生物視覺系統相比仍然存在根本性缺陷。

為何研究？

論文通訊作者、中科院自動化所類腦認知智能研究組負責人曾毅研究員介紹說，幻覺輪廓是認知心理學中經典的幻覺現象，在沒有顏色對比度或亮度梯度的情況下，生物視覺系統能夠感知到一個清晰的邊界。這一現象已經在人類和多種動物物種中被廣泛發現，包括哺乳動物、鳥類和昆蟲等。

獨立進化的視覺系統中普遍存在幻覺輪廓感知能力，表明它在生物視覺處理中具有基礎和關鍵的作用，因此，幻覺輪廓感知也應該是人工智能視覺系統所必須具備的能力。

此前，深度學習模型的幻覺輪廓感知相關研究相對較少，研究深度學習模型對幻覺輪廓感知的魯棒性比圖像干擾魯棒性更加復雜，主要障礙是幻覺輪廓的樣本有限。大多數研究分析的幻覺輪廓都是在先前的心理學文獻中手動設計，而這些測試圖片無法直接與深度學習模型訓練的任務相匹配，同時由于數量很少，無法形成一個有相對規模的測試集，很難以機器學習的方式去衡量深度學習模型的幻覺輪廓感知能力。

如何研究？

曾毅指出，這次主要研究了深度學習對交錯光柵幻覺的識別能力，交錯光柵幻覺是一個經典的幻覺輪廓現象，位移的光柵會在沒有亮度對比的情況下誘發出虛假的邊緣和形狀。標準的交錯光柵錯覺能夠讓人類在實際上沒有物理邊界的情況下感知到中間的垂直線。交錯光柵幻覺被廣泛應用于生理學研究中，以探索幻覺輪廓的生物視覺處理。

中科院自動化所類腦認知智能研究組提出一種名為交錯光柵扭曲的圖像干擾方法，作為量化神經網絡模型幻覺輪廓感知能力的工具。該方法可直接應用于具有外部輪廓而沒有紋理信息的剪影圖像，從而系統性地生成大量幻覺輪廓圖像。由于不同的參數設置能夠產生不同程度的幻覺效應，這項研究對人類被試者進行測試，用于了解不同的干擾參數對人類被試的幻覺輪廓感知能力的影響。

對于深度學習模型，這項研究訓練全連接網絡和卷積網絡，收集了109種公開可用的預訓練模型。同時，這項研究也招募了24名人類受試者，從而評估不同的參數設置下，人類的幻覺輪廓感知能力以及其對數字和圖像識別的影響。

有何收獲？

論文第一作者、中科院自動化所類腦認知智能研究組工程師范津宇說，這項研究結合認知科學和人工智能，提出將傳統機器視覺數據集轉換成認知科學中的交錯光柵幻覺圖像，首次對大量的公開預訓練神經網絡模型的幻覺輪廓感知能力進行量化測量，并從神經元動力學角度和行為學兩個角度，檢驗深度學習和神經網絡模型對幻覺輪廓的感知。

本次研究實驗中的所有深度神經網絡模型無論是否被訓練、使用什么方式訓練，都產生了神經動力學層面的沿著幻覺輪廓的激活。然而即使如此，這一神經動力學層面的激活并沒有能夠幫助到深度神經網絡最終在行為學層面識別出幻覺輪廓。而唯一擁有相對好的幻覺輪廓感知能力的深度增強模型，則表現出端點激活效應，從而揭示未來突破這個問題重點在于端點激活和幻覺輪廓的關系。

曾毅總結稱，本項研究成果亮點可概括為四個方面：一是提出系統性生成幻覺輪廓樣本的方法；二是將視覺認知和機器學習數據集結合，實現對神經網絡幻覺輪廓感知能力的量化；三是測試大量公開的預訓練神經網絡模型；四是發現幻覺輪廓感知較好的模型展現出計算神經科學理論預言的端點激活現象。

這項研究最大的特點是從認知科學的角度檢驗和部分重新審視了當前看似成功的人工神經網絡模型，并且證明人工神經網絡模型與人腦視覺處理過程仍然存在著很大差距，這還只是人工智能與人類認知顯著距離的“冰山一角”，大腦運作的機理和智能的本質將繼續啟發人工智能，特別是神經網絡的研究。

“如果想從本質上取得突破，人工智能需要借鑒并受自然演化、腦與心智的啟發，建立智能的理論體系，這樣的人工智能才會有長遠的未來。”曾毅說。(完)