人工智能幫你測謊？！當心強化偏見

雖然人類經常說謊，但通常不會指責別人說謊，因為社會規范禁止虛假指控，并強調文明禮貌。但人工智能（AI）可能很快就會改變這些規則。德國科學家研究發現，當人工智能提出指控時，人們更有可能指責他人撒謊。相關研究6月27日發表于《交叉科學》。

“我們的社會對撒謊指控有著牢固而完善的規范。”論文通訊作者、杜伊斯堡-埃森大學行為科學家Nils Kobis說，“公開指責別人撒謊需要很大的勇氣和堅實的證據。但我們的研究表明，人工智能可能成為人們避免為指控的后果負責的借口。”

人工智能測謊帶來更多指責

人類社會長期以來都是基于默認真話理論來運作的，該理論認為，人們通常認為他們聽到的都是真的。為此，人類很難發現謊言。此前的研究表明，人們在識破謊言方面的表現并不比隨機監測更好。

Kobis和團隊想知道人工智能的存在是否會改變這些既定社會規范和行為。

在調查中，研究小組要求986名參與者對他們下周末的計劃寫一份真實和一份虛假的描述。該團隊用這些數據訓練了一種算法，開發出一種人工智能模型，該模型識別真假陳述的準確率能達到66%，這明顯高于普通人的水平。

接下來，該團隊招募了2000多人作為評委，他們將閱讀一份陳述，并決定它的真假。研究人員將參與者分為四組——基線、強迫、封閉、選擇。

在基線組中，參與者在沒有人工智能幫助的情況下，回答“對”或“錯”。在強迫組中，參與者在做出自己的判斷之前總是收到AI預測。在封鎖組和選擇組中，參與者可以選擇是否接受人工智能生成的預測。但封鎖組的人不會收到預測反饋，而選擇組的人會收到。

研究小組發現，基線組的參與者在判斷真假時的準確率為46%。只有19%的人表示他們讀到的陳述是假的，盡管他們知道50%的陳述是假的。這證實了人們傾向于避免指責別人撒謊。

在強迫組中，不管參與者是否想要，他們都得到了人工智能預測結果，因此超過1/3的參與者認為陳述是虛假的。這一比例明顯高于基線組和未接受人工智能預測的組。

當人工智能預測某句話是真的時，只有13%的參與者認為這句話是假的。然而，當人工智能預測一個陳述為假時，超過40%的參與者認為該陳述是假的。

此外，在要求并收到人工智能預測的參與者中，84%的人接受了預測結果，并在人工智能說陳述是錯誤的時候提出了指控。

“這表明，一旦人們手頭有了這樣的算法，他們就會依賴它，并可能改變他們的行為。如果算法認為某件事是謊言，人們就會欣然接受。這是相當令人擔憂的，這表明我們應該非常謹慎地對待相關技術。”Kobis說。

當心人工智能強化偏見

但有趣的是，人們似乎不愿意使用人工智能作為測謊工具。

在封鎖組和選擇組中，只有1/3的參與者選擇接受人工智能預測。這個結果讓研究小組感到驚訝，因為研究人員事先告訴參與者，該算法比人類更能發現謊言。

“這可能是因為人們對自己的測謊能力過于自信，盡管人類在這方面真的很糟糕。”Kobis說。

研究人員認為，這一發現有助于深入了解使用人工智能系統進行測謊的社會影響，并在實施類似技術時為政策制定者提供信息。

人工智能以頻繁犯錯和強化偏見而聞名。鑒于這些發現，Kobis建議政策制定者應該重新考慮在重要而敏感的問題上使用這項技術，比如庇護批準等。

“人工智能被大肆宣傳，許多人認為這些算法非常強大，甚至是客觀的。我很擔心這會讓人們過度依賴它，即使它的效果并不好。”Kobis說。