美國證券交易委員會（SEC）席加里·詹斯勒（Gary Gensler）多年來一直在研究AI的潛在後果。近期，像ChatGPT這樣的生產式AI工具的激增表明，這項技術有望改變各行各業，甚至是整個社會。
日前，詹斯勒談到了他對AI最擔心的一些問題。
AI可能是金融系統面臨的下一個重大系統性風險。2020年，詹斯勒與他人合寫了一篇關於深度學習和金融穩定的論文。其結論是，鑑於以往網路和平台效應對科技巨頭的影響，將來可能只有少數幾家AI公司能建立一些基礎的模型，來支援企業所依賴的AI工具。
詹斯勒預計，美國最終很可能會出現2~3個基礎性的AI模式。這將加深整個經濟體系的相互聯絡，使金融崩潰的可能性變得更大。因為當一個模型或資料整合為核心時，它會增加“羊群”行為（即從眾行為），意味著每個人都將依賴相同的資訊，做出類似的反應。
詹斯勒說：“這項技術（AI）將成為未來危機和未來金融危機的中心。”
AI模型可能會把企業的利益置於投資者的利益之上。社交媒體推動的表情包股票狂潮，以及App上零售交易的興起，突顯了推送和預測演算法的力量。但是，使用AI來研究投資者行為或推薦交易的公司，在根據這些資訊採取行動時，會把使用者利益放在優先位置嗎？
SEC上個月提出了一項規則，要求各平台消除其技術中的利益衝突。詹斯勒說：“你不應該把顧問放在投資者之前，你也不應該把經紀人放在投資者之前。因此，我們就如何解決那些可能嵌入到模型中的衝突提出了具體的建議。”
如果生成式AI給出錯誤的財務建議，誰應該負責？詹斯勒稱：“根據法律，投資顧問有受托義務、注意義務和對客戶忠誠的義務。無論是否使用演算法，你都有同樣的注意義務。”
在政策制定者的心目中，到底誰應該為AI承擔法律責任，還存在爭議。但詹斯勒認為：“應該要求這些公司建立安全的機制，因為任何使用聊天機器人的人，都不會將責任下放給這項技術。他說：“機器人的各項參數，是由建造它們的人類設定的。”
