一群科技人拉橫幅圍堵OpenAI，不禁AI就一直鬧！

文章來源：AI前線

Image source: Generated by AI

近日，據外媒消息，一群活動人士於上週六在美國舊金山集會，成立了名為“停止人工智慧”（Stop AI）的非暴力公民抵抗組織，旨在封锁人工智慧進一步發展，尤其是針對通用人工智慧（AGI）。 OpenAI將AGI定義為在多數經濟價值工作中超越人類的高度自主系統，而該組織認為其影響巨大且危險，希望能徹底禁止。

Stop AI在其網站上公佈了一系列目標，包括要求政府強制人工智慧公司關停與通用人工智慧模型創建相關的一切工作，
銷毀現有模型並永久禁止其開發
。不過，他們並非要禁止所有人工智慧，而是僅針對那些威脅人類生存的部分。

矛頭對準OpenAI

在具體行動策略上，Stop AI主要通過組織抗議活動來擴大影響力。 例如，他們在近日又開始“圍攻”OpenAI位於舊金山的總部進行抗議。 此前，該組織已在OpenAI辦公室及其他地方舉行過多次抗議活動。 其中，兩位聯合創始人Sam Kirchner和Guido Reichstadter，因在去年10月封鎖OpenAI的入口被捕。

Stop AI成員Finn van der Velde——一比特具有計算機科學和人工智慧科技背景的安全宣導者及活動人士，表示要封锁AGI出現，可能需要一項國際條約，各國共同約定不開發AGI，
這意味著要解散像OpenAI這樣以開發AGI為目標的公司
，同時監管計算能力，防止有人訓練出AGI模型。

在抗議活動中，也有人呼籲對OpenAI前雇員、侵權舉報人Sunchir Balaji的死亡展開進一步調查。

2024年11月，Balaji被發現死於其位於舊金山的公寓中。 但Balaji的父母表示，他們不相信兒子是自殺身亡，他們希望外部機构調查兒子的死因。

26歲的Balaji的父母表示，他們仍對兒子的死因存有疑問。 他們說，11月26日，Balaji被發現死在舊金山的公寓裏，身上有疑似槍傷的痕迹。 舊金山警方表示，這似乎是一起自殺事件，初步調查中沒有發現謀殺的證據。 不過，他的母親說，他的公寓裏有些東西不對勁。

“密碼驅動器不見了。他的電腦壞了。他的臺式電腦已經開著三天了。一切都亂七八糟，”Balaji的母親普爾尼瑪·拉瑪勞（Poornima Ramarao）說道。

Balaji於2020年開始擔任OpenAI研究員，辭職後，
他公開聲稱該公司在開發ChatGPT時違反了版權法
。他的父母說，在他去世前四天，他被傳喚為一起針對OpenAI的案件作證。

Stop AI認為，Balaji的死亡可能並非自殺而是被殺，被殺的原因就是為了封锁他說出ChatGPT版權問題的真相。

Stop AI提到了對人工智慧巨頭尋求創造“超級智慧”的道德擔憂。

Stop AI是誰？ 在做什麼？

Stop AI由聯合創始人Sam Kirchner和Guido Reichstadter領導，現時已經在OpenAI辦公室外進行過抗議活動。 當地時間週六下午， Stop AI在科技公司OpenAI外舉行示威活動，他們擔心該公司的科技可能會導致“人類滅絕”。 他們設定了一個大膽目標，
希望能獲得美國3.5%人口（即1100萬人）的支持
。

Stop AI的成員來自於電腦、機械和數學相關領域。

創始成員Sam Kirchner擁有機械和電氣工程背景，而Reichstadter則曾擔任珠寶商20年，並獲得了物理和數學學士學位。 其他小組成員也有一些科技背景：Finn van der Velde擁有計算機科學學士學位，具體來說是人工智慧，並離開了拉德堡德大學的人工智慧碩士課程，“以從事人工智慧安全工作”，正如他的LinkedIn個人資料所示。 Derek Allen會程式設計。 Kirchner表示，一名兼職小組成員鄧尼斯目前正在攻讀人工智慧碩士學位。

Stop AI的Sam Kirchner（左）和Guido Reichstadter在Silverstone咖啡館

他們堅信，人類的思維應當始終處於智慧領域的最前沿。

Stop AI發起抗議和公民抵抗行動，目的是讓公眾瞭解到，儘管舊金山的人工智慧科技公司承認通用人工智慧存在導致人類滅絕的風險，但仍在推進相關研發。 有專家甚至預測，通用人工智慧可能在今年就會問世。 他們強調，人工智慧存在極大危險性，所謂的人工智慧安全只是幻想，無法通過實驗證明其不會產生危害人類的想法，這與人類曾經導致其他物種滅絕的情况類似。 此外，
通用人工智慧還可能對民主制度造成永久性破壞，同時導致大規模失業，使許多人失去生活目標
。

對於人工智慧的發展，業內看法不一。 部分從事人工智慧工作的人員認為，研發通用人工智慧/超級人工智慧（AGI/ASI）可以幫助解決如癌症治療、氣候變化等難題。 但Stop AI反駁稱，在無法確保其永遠安全、不會危及人類生存的情况下，進行此類研發毫無意義，畢竟從實驗角度證明其安全性是不可能的。

現時，關於通用人工智慧的研發與限制爭議不斷，其未來走向備受社會各界關注。

值得一提的是，截至目前，Stop AI已經籌集了6685美元資金。

AI發展引爭議：期待與恐懼並存

“……我們正試圖永久禁止通用人工智慧（AGI）的發展，” Kirchner在接受The Register採訪時表示。 “粗略地說，AGI指的是在所有科技領域都比所有人類專家更强大的系統。”

AI大神傑弗裏·辛頓（Geoffrey Hinton）曾預測，未來20年內人工智慧超越人類智慧的可能性約為50%。 與其他人工智慧反對者一樣，Kirchner也擔心人類會失去控制。

Kirchner對人工智慧發展的擔憂並非個例。 早在大語言模型爆發之前，埃隆·馬斯克（Elon Musk）在2014年就曾提到過，利用AI，就像是在“召喚”惡魔……

2014年，馬斯克在一次公開場合談及人工智慧的發展時表示：“我認為我們應該對人工智慧非常謹慎。如果讓我猜一下我們最大的生存威脅是什麼，那很可能就是這個（AI）。”

隨著人工智慧科技的快速發展，人們對其潜在影響的看法呈現出兩極分化的態勢，既有著深切的擔憂，也不乏對其積極作用的認可。 許多人認為意識是極為複雜獨特的現象，人工智慧難以企及，它本質上只是進行統計計算的機器，缺乏感受、情感和理解能力，一切行為皆按程式執行，與人類擁有自由意志截然不同。 儘管現時關於人工智慧“安全性”的爭論不絕於耳，但許多人對其安全的具體範疇仍感到困惑。

當前，人們對人工智慧的擔憂主要集中在兩個方面。
其一，人工智慧生成虛假內容的能力可能帶來嚴重危害
。在政治領域，虛假資訊本就氾濫，人工智慧的介入可能使情况雪上加霜，進而引發法律問題，例如無辜者被誤指犯罪，有罪者卻借此獲取不在場證明； 在金融經濟領域，也可能引發欺詐、敲詐勒索等問題。 並且，人工智慧對社會潜在危害的管道眾多，許多仍有待發現。

其二，人工智慧可能導致大規模失業
。以荷里活編劇罷工事件為例，編劇們擔心自己會被人工智慧生成的劇本替代，尤其是當他們過往的作品被用於訓練人工智慧引擎時。 同樣，藝術家們也憂心人工智慧生成的影像和音樂將取代自己的創作。 此外，像體育賽事摘要這類常規工作，幾乎肯定會被人工智慧接管。

不過，人工智慧也展現出了巨大的積極潜力。 在醫療領域，人工智慧可以通過對海量醫療數據的分析，幫助醫生更準確地診斷疾病，預測疾病的發展趨勢，甚至協助研發新的藥物。 例如，一些人工智慧系統能够快速識別醫學影像中的异常，提高癌症等疾病的早期診斷率，為患者爭取寶貴的治療時間。

在交通領域，自動駕駛科技作為人工智慧的重要應用之一，有望大幅提高交通安全性和效率。 通過感測器和算灋，自動駕駛汽車可以實时感知周圍環境，做出更快速、準確的駕駛決策，减少人為失誤導致的交通事故。 同時，智慧交通系統還能優化交通流量，緩解擁堵，降低能源消耗。

在人工智慧科技持續革新的當下，如何平衡其發展與潛在風險，成為全社會亟待思考的重要議題。

參攷連結：

https://x.com/liron/status/1803435675527815302?t=GM7jv516WqvRAA_q4vEBzQ&amp ；s=19

https://www.ktvu.com/news/parents-openai-whistleblower-want-outside-investigation-sons-death

https://www.ktvu.com/news/parents-openai-whistleblower-want-outside-investigation-sons-death