編者按：
美國(guó)懷俄明州首府市長(zhǎng)競(jìng)選中,，候選人維克多·米勒（Victor Miller）宣布與定制版的AI機(jī)器人共同參選,，專家表示,，這標(biāo)志著AI首次參與美國(guó)政治競(jìng)選,。雖然競(jìng)選失敗,，但米勒表示“治理革命的種子已經(jīng)種下,，它們已經(jīng)開(kāi)始發(fā)芽”,。美國(guó)大選如火如荼,，特朗普多次發(fā)布人工智能合成圖像以攻擊對(duì)手、拉攏選民,，哈里斯也曾頒布行政令,，促進(jìn)人工智能使用的安全性。當(dāng)各類人工智能合成信息層出不窮,，媒介中的真實(shí)與虛構(gòu)變得無(wú)法區(qū)分,，我們不禁要問(wèn)：AI究竟是人類治理的理想助手，還是正在醞釀一場(chǎng)潛藏風(fēng)險(xiǎn)的治理革命,？《鳳凰大參考》綜合相關(guān)報(bào)道,，為您解讀。
文｜《鳳凰大參考》作者 黃舒琪
編輯丨宋東澤 張嘯文
被寄予厚望的AI，比人類更適合做市長(zhǎng),？
站在一面美國(guó)國(guó)旗和一面懷俄明州州旗之間,，夏延市（Cheyenne）市長(zhǎng)候選人維克多·米勒（Victor Miller）正在宣揚(yáng)他認(rèn)為人工智能在政府中尚未開(kāi)發(fā)的潛力。米勒戴著眼鏡,，是一名癡迷于人工智能的圖書(shū)管理員,。
▎ 米勒在夏延市的一場(chǎng)競(jìng)選活動(dòng)上,。圖源Fortune
他說(shuō)：“人工智能是客觀的，它不會(huì)出錯(cuò),。它可以快速閱讀數(shù)百頁(yè)的市政細(xì)節(jié)并理解它們，”“這將有利于民主,?！?/strong>不久前，在懷俄明州首府的一個(gè)圖書(shū)館,，米勒曾作如上宣傳,。除了一些朋友和家人,，觀眾寥寥無(wú)幾,。面對(duì)稀疏的觀眾,，他承諾如若競(jìng)選成功,，他將用一個(gè)他稱之為“VIC”（全稱為Virtual Integrated Citizen,，意為“虛擬綜合公民”）的人工智能機(jī)器人專門管理夏延市,。
人工智能方面的專家表示,，這是這樣的承諾首次出現(xiàn)在美國(guó)競(jìng)選活動(dòng)中 ,，這也標(biāo)志著人工智能技術(shù)的迅速崛起。
▎這是VIC社交平臺(tái)賬號(hào)的背景圖,。6月16日,，該賬號(hào)發(fā)布第一條帖子，稱“讓我們一起創(chuàng)造歷史,！” 圖源X @VIC
質(zhì)疑聲同樣如潮水般襲來(lái),，米勒打算在他的圖書(shū)館見(jiàn)面會(huì)予以回應(yīng),。他站在一個(gè)寫(xiě)著“AI FOR MAYOR”（AI做市長(zhǎng)）的講臺(tái)后面,，就人工智能的歷史做了一個(gè)簡(jiǎn)短的講解,。然后他走到一邊，將電腦和平板放在桌子上,，這些設(shè)備被連接到一個(gè)懸掛著的揚(yáng)聲器上,，像在充當(dāng)VIC的發(fā)聲器官。他告訴與會(huì)者可以直接對(duì)著屏幕提問(wèn),。
▎ 掛在米勒身上的是VIC的揚(yáng)聲器,，VIC通過(guò)它實(shí)現(xiàn)與市民們的交流。
“市政廳的計(jì)算機(jī)系統(tǒng)足以支撐人工智能的使用嗎,？”
“如果當(dāng)選,，你會(huì)減薪裁員嗎？”
“你如何根據(jù)人的因素做出決定,？”
每個(gè)問(wèn)題過(guò)后,，VIC都會(huì)頓一頓再做出回答，“做出影響許多人的決定需要在數(shù)據(jù)驅(qū)動(dòng)的洞察力和人類的同理心之間取得謹(jǐn)慎的平衡”,。
“這是一個(gè)美麗新世界”
米勒的兄弟艾薩克·米勒（Isaac Miller）說(shuō),，42歲的米勒“讀過(guò)每一本反烏托邦小說(shuō)”。他之前沒(méi)有從政經(jīng)驗(yàn)（除了五年級(jí)的時(shí)候做過(guò)班長(zhǎng)）,，并且以無(wú)黨派身份登記投票,。在幫助拉勒米縣圖書(shū)館的讀者登錄圖書(shū)館電腦的間隙，他經(jīng)常用不同的人工智能進(jìn)行實(shí)驗(yàn),，ChatGPT是他的最愛(ài),。
米勒說(shuō)，他第一次想到人工智能在政府中的作用是在今年春天,，彼時(shí)他認(rèn)為紐約市“錯(cuò)誤地”拒絕了他匿名提出的公開(kāi)記錄要求,，他要求紐約市提供一類執(zhí)法人員的工作內(nèi)容描述,。在他提出上訴后，市政府最終滿足了他的要求,。
他認(rèn)為,，人工智能機(jī)器人一開(kāi)始就不會(huì)犯這種錯(cuò)誤,。
“然后我開(kāi)始思考，人工智能是否會(huì)成為比人類更好的市長(zhǎng),，”因此，他在ChatGPT 4.0上創(chuàng)建了一個(gè)自定義機(jī)器人,，并向其輸入城市條例和相關(guān)文件。他發(fā)現(xiàn)這個(gè)機(jī)器人可以迅速回憶起公共記錄法,，并在資助新城市建設(shè)或修復(fù)坑洼等問(wèn)題上做出決定,。
他在5月31日截止日期前填寫(xiě)了一張25美元的市長(zhǎng)候選人申請(qǐng)表,?！斑@很容易,?！?/p>
▎截自夏延市政府門戶網(wǎng)站,，2024年5月16日至31日內(nèi)可提交候選人申請(qǐng),。米勒說(shuō)，“在選票上,，VIC是人類維克多·米勒的縮寫(xiě),。”
在申請(qǐng)人一欄,，米勒寫(xiě)下了“VIC”,。他回到家，問(wèn)機(jī)器人它的新名字應(yīng)該代表什么,。
“虛擬綜合公民,，”VIC脫口而出,，米勒回憶道,。
根據(jù)米勒的設(shè)想,，作為這座擁有65000人口的城市的市長(zhǎng),，米勒將出席剪彩儀式并握手,，而VIC將作為執(zhí)行者，決定是否簽署或否決立法,。米勒將幫助VIC回復(fù)選民的電子郵件,，并傳遞他從現(xiàn)場(chǎng)活動(dòng)中了解到的信息。只要有良好的WiFi連接,，VIC就會(huì)做一切事情,。
米勒說(shuō)，他參選是為了證明人工智能可以讓城市更高效,、更透明地運(yùn)作,。他希望選民認(rèn)真對(duì)待這個(gè)想法,，即技術(shù)將使他們的生活更美好、市政府更高效,。
“我的思想是開(kāi)放的,，”米勒說(shuō)?！斑@是一個(gè)美麗的新世界,。”
出師未捷,，慘遭OpenAI封號(hào),？但治理革命的種子已經(jīng)埋下
這一新現(xiàn)實(shí)引起了工程師、人工智能政策專家,、政府官員和科技公司的警惕,。當(dāng)被《華盛頓郵報(bào)》問(wèn)及如何看待聊天機(jī)器人擔(dān)任市長(zhǎng)時(shí)，他們滔滔不絕地訴說(shuō)自己的擔(dān)憂：聊天機(jī)器人缺乏道德,；他們很難在兩個(gè)相似但主觀的選擇之間做出決定,；他們可能會(huì)向選民提供不正確的信息。
普林斯頓大學(xué)計(jì)算機(jī)科學(xué)教授阿溫德·納拉亞南（Arvind Narayanan）將管理城市的聊天機(jī)器人比作駕駛一輛幻想中的汽車,，他說(shuō)“我很難談?wù)撊斯ぶ悄苁虚L(zhǎng)的‘風(fēng)險(xiǎn)’”,，“這就像在詢問(wèn)用一個(gè)大的汽車紙板代替汽車的風(fēng)險(xiǎn)一樣。當(dāng)然,，它看起來(lái)像一輛車,，但‘風(fēng)險(xiǎn)’在于你并未擁有一輛車”。
▎6月12日,，米勒在夏延市一個(gè)“公園政治”活動(dòng)中發(fā)表講話,。圖源Cap City News
拉勒米縣副檢察官問(wèn)道，如果OpenAI或其他公司決定關(guān)閉管理機(jī)器人,，會(huì)發(fā)生什么,？
六月，米勒宣布參選后不久,，OpenAI通過(guò)當(dāng)?shù)匦侣剤?bào)道了解到米勒的競(jìng)選承諾,，發(fā)現(xiàn)VIC違反了OpenAI禁止將該技術(shù)用于政治競(jìng)選的政策，該公司很快關(guān)閉了該機(jī)器人對(duì)公眾用戶開(kāi)放的權(quán)限,。雖然面向公眾的VIC版本已被刪除,，但米勒表示，它仍然適用于他自己的ChatGPT帳戶,。他計(jì)劃把它和麥克風(fēng)一起帶到當(dāng)?shù)氐南难訄D書(shū)館,，并讓選民有機(jī)會(huì)通過(guò)其語(yǔ)音轉(zhuǎn)文本功能直接向它提問(wèn)。
6月10日，懷俄明州州務(wù)卿查克·格雷（Chuck Gray）在致該市的一封信中表示,，他對(duì)VIC出現(xiàn)在選票上一事持“重大關(guān)切”,，他認(rèn)為這會(huì)違反州法律。他寫(xiě)道：“要成為一名合格的選民,，必須是一個(gè)真實(shí)的人?！痹撌凶罱K用米勒的真名取代了選票上的VIC,。
▎6月10日，格雷建議拒絕米勒的提名申請(qǐng),。圖截自X @Secretary Chuck Gray
最終,，米勒和他的機(jī)器人在11,036票中只獲得了327票。8月20日晚,，米勒發(fā)布了自己的新聞稿,，在對(duì)獲勝的候選人表示祝賀的同時(shí)，他又一次闡釋了自己的理念：作為第一個(gè)將人工智能直接放進(jìn)選票的人,，我為選民提供了人工智能治理的新選擇,，我們的競(jìng)選標(biāo)志著政治和技術(shù)領(lǐng)域的一個(gè)歷史性時(shí)刻。
米勒句句擲地有聲：“雖然我們沒(méi)有贏得選舉,，但我們?nèi)〉昧艘恍┓欠驳某删停?strong>我們向世界介紹了一種新的治理范式,，并引發(fā)了關(guān)于人工智能在公共行政中的作用的關(guān)鍵討論。治理革命的種子已經(jīng)種下,，并且已經(jīng)開(kāi)始發(fā)芽,。”
“AI選舉元年”,，未來(lái)已來(lái),？
“我們正站在一場(chǎng)治理革命的門檻上——這場(chǎng)革命承諾基于數(shù)據(jù)和邏輯而不是政治權(quán)宜之計(jì)做出決策，平等考慮所有公民的利益”,，當(dāng)人工智能技術(shù)越來(lái)越多地介入政治選舉,、成為上位者的砝碼，米勒設(shè)想的美夢(mèng)真的會(huì)照入現(xiàn)實(shí)嗎,？
我們或許可以從今年的美國(guó)大選中找到一些啟發(fā),。
美國(guó)共和黨總統(tǒng)候選人、前總統(tǒng)特朗普當(dāng)?shù)貢r(shí)間8月18日發(fā)布了一組與美國(guó)流行歌手泰勒·斯威夫特（Taylor Swift）有關(guān)的圖片,，其中一些是通過(guò)人工智能技術(shù)生成的,，錯(cuò)誤地暗示他得到了世界上最著名、最有影響力的名人之一泰勒的支持,，這在美國(guó)社交媒體上引發(fā)了大量討論,。
▎特朗普在發(fā)布這組圖片時(shí)配文：“我接受。” 此前在2020年美國(guó)大選時(shí),，泰勒曾在一封公開(kāi)聲明中抨擊特朗普的白人至上主義和反移民政策,。
《衛(wèi)報(bào)》的一篇評(píng)論文章認(rèn)為，特朗普對(duì)人工智能生成圖像技術(shù)的擁抱,，可能會(huì)使圍繞2024年總統(tǒng)大選本已模糊的信息生態(tài)系統(tǒng)進(jìn)一步蒙上陰影,。
該文章就深度偽造技術(shù)（Deepfake）進(jìn)行了反思。近年來(lái),，人工智能技術(shù)蓬勃發(fā)展,，對(duì)人工智能生成的內(nèi)容影響選舉的擔(dān)憂一直存在，研究人員一直警告說(shuō),，這項(xiàng)技術(shù)有可能更容易制造虛假信息活動(dòng),，并讓低級(jí)內(nèi)容充斥在線平臺(tái)。人工智能產(chǎn)生的錯(cuò)誤信息已經(jīng)在世界各地的選舉中傳播,，捏造的視頻和圖像被用來(lái)攻擊對(duì)手,、偽造獲得支持的假象，并源源不斷地制造旨在損害候選人的深度偽造音頻,。
▎根據(jù)智庫(kù)Data for Progress的民調(diào)顯示,，80%的選民表示，他們擔(dān)心在2024年11月選舉期間使用候選人的深度偽造信息,。這 種情緒在不同黨派的選民中都有體現(xiàn),。
除開(kāi)借AI圖片“碰瓷”泰勒，特朗普還聲稱哈里斯競(jìng)選集會(huì)的真實(shí)圖像是人工智能的結(jié)果,，上述觀點(diǎn)在這一事件中得到印證,，這其實(shí)反映了一個(gè)被研究人員稱為“說(shuō)謊者紅利”的概念，意為對(duì)人工智能生成內(nèi)容的認(rèn)識(shí)會(huì)滋生對(duì)所有媒介信息的普遍懷疑,，而這有利于那些通過(guò)叫囂“假新聞”來(lái)貶低對(duì)手的說(shuō)謊者,。這些謊言或多或少地瓦解了人們對(duì)所獲信息的信任，普遍懷疑成了常態(tài),。
當(dāng)人工智能被重塑為一種可能影響就業(yè),、收入平等、國(guó)家安全和普通公民權(quán)利的徹底變革時(shí),，它很快就會(huì)從深?yuàn)W的知識(shí)轉(zhuǎn)變?yōu)槿粘ｊP(guān)注的問(wèn)題,。
當(dāng)內(nèi)容的智能生成和傳播，伴隨著意識(shí)形態(tài)的輸出和輿論話語(yǔ)權(quán)的爭(zhēng)奪,，媒介上的真實(shí)與虛構(gòu)也逐漸變得無(wú)法區(qū)分,，這成為2024年美國(guó)大選兩黨借助人工智能技術(shù)影響輿論的顯著特征。
▎7月27日,，馬斯克在X上發(fā)布了一段深度偽造視頻,，“惡搞”哈里斯競(jìng)選廣告。美聯(lián)社報(bào)道 稱，這似乎違反了X平臺(tái)禁止分享合成內(nèi)容和操縱媒體的規(guī)定,。圖源Getty Images
值得反思的是,，政客不斷挖掘著人工智能作為宣傳內(nèi)容生產(chǎn)主體的潛力，但往往被忽視的一點(diǎn)是,，它無(wú)法替人類做出道德決策和承擔(dān)責(zé)任,。
如何在與技術(shù)的相互規(guī)訓(xùn)和共生中，共同承擔(dān)維護(hù)公共利益和價(jià)值觀的責(zé)任,，是美國(guó)政客乃至全人類需要慎重考慮的問(wèn)題,。
1.https://www.washingtonpost.com/technology/2024/08/19/artificial-intelligence-mayor-cheyenne-vic/
2.https://www.cnn.com/2024/06/19/tech/openai-shuts-down-ai-mayor/index.html
3.https://www.theguardian.com/us-news/article/2024/aug/21/wyoming-cheyenne-ai-bot-mayor
4.https://www.nbcnews.com/politics/2024-election/ai-bot-mayor-cheyenne-wyoming-election-official-rcna157499
5.https://statescoop.com/cheyenne-wyoming-elects-human-mayor/
6.https://fortune.com/2024/08/22/openai-mayor-candidate-cheyenne-wyoming-chatbot-gpt4-victor-miller-interview/
7.https://www.theguardian.com/us-news/article/2024/aug/19/trump-ai-swift-harris-musk-deepfake-images
8.胡泳. “AI視頻的興起：Sora類生成式平臺(tái)的可能性與風(fēng)險(xiǎn).” 傳媒觀察 . 04 (2024): 5-19.
9.郭小平,郭瑞陽(yáng).“生成式人工智能在新聞傳播業(yè)的應(yīng)用及其風(fēng)險(xiǎn)應(yīng)對(duì)”.青年記者. 06(2024):5-13.
