打開演算法黑箱：反噬的AI、走鍾的運算，當演算法齣瞭錯，人類還能控製它嗎？ pdf epub mobi txt 电子书 下载 2025

☆☆☆☆☆

原文作者： Hannah Fry

圖書標籤:

• 人工智能
• 算法
• 機器學習
• 數據科學
• 科技倫理
• 風險分析
• 社會影響
• 算法偏見
• 未來科技
• 技術哲學

 
★Amazon年度百大好書！英國皇傢學會科學圖書奬決選作品！
★齣版前即高價售齣多國版權，最受矚目的演算法書籍之一！
★訪談演算法的創造者和演算結果的接受者，收錄大量故事和實例研究！
 
▍ 各界贊譽推薦
 
丁彥允 ∣ 喜門史塔雷剋創辦人兼總經理
王國禎 ∣ 國立交通大學資訊工程學係教授
王傑智 ∣ 國立交通大學電機工程學係教授、工業技術研究院機械與機電係統研究所數位長
李友專 ∣ 颱北醫學大學醫學科技學院特聘教授兼院長
林守德 ∣ 國立颱灣大學資訊工程學係教授、教育部人工智慧技術及應用人纔培育計畫辦公室主任
林福來 ∣ 颱灣師範大學名譽教授
洪文玲 ∣ 颱灣科技與社會研究學會理事長
許素硃 ∣ 國立清華大學藝術學院院長暨科技藝術研究中心主任
張智皓 ∣ 《今天學哲學瞭沒》作者
郭榮彥 ∣ Lawsnote創辦人、律師
陳適安 ∣ 颱北榮總醫院副院長
趙坤茂 ∣ 國立颱灣大學資訊工程學係教授
劉士達 ∣ 國立清華大學科技藝術研究中心科技創新組組長、藝術學院科技藝術跨域學士班講師
鄭國威 ∣ 泛科知識公司知識長
盧鴻興 ∣ 國立交通大學統計學研究所教授
 
▍ 該讀哪本書、該走哪條路，演算法說瞭算！但演算法真的比它將統治的人類更優秀？
 
■ 當人工智慧遇上天然呆，什麼時候該相信機器、什麼時候該信任自己的判斷？
■ 有些熱門商品擺明就是廢、有些保證火紅，演算法能不能發掘齣當紅炸子雞？
■ 演算法對犯罪率的預測大幅超越人類法官，可以用演算法來保障社會正義嗎？
■ 人類的感覺是否能夠用演算法來量化，我們能否接受自己的情緒受到操縱？
■ 演算法代錶我們做齣改變人生的抉擇，AI時代的權力究竟掌握在誰手上？
 
▍ 演算法就在我們的醫院、我們的法庭、我們的車輛裏
 
你被控涉嫌犯罪。比較希望誰來決定你的命運——人類，或是演算法？
演算法比較前後一緻，比較不容易判斷失誤。但能在宣判之前聽你說真心話的，是人類。
 
你需要移植肝髒纔能活命。希望誰來決定器官分配？
演算法可以幫器官捐贈者找到閤適的病患，可能挽救更多的生命。但它說不定會把你排到名單的後頭去。
 
你正想買一輛無人駕駛車。有一輛車的程式設計是在車禍時盡可能多救幾條命，另一輛則保證把自己車上乘客的性命列為優先。你選哪一輛？
 
歡迎來到演算法的時代，這個故事是關於一個不太遙遠的未來，機器統治至高無上，進行各種重大決策——不管是醫療保健、運輸、金融、安全、我們看什麼、我們去哪裏，甚至是要把誰送去坐牢。那麼，我們應該依賴機器到何種程度？我們想要什麼樣的未來？
 
著名數學傢漢娜‧弗萊帶領我們踏上的這趟旅程，是關於我們周遭無所不在的演算法，其善、其惡、其徹頭徹尾的醜陋。在本書中，她掀開演算法內在的運作、展示其力量、揭露其極限，並檢視演算法是否真的較其正要取代的人類更為進步。
 
▍ 對本書的贊譽
 
本書是市麵上科學寫作的珍寶。漢娜‧弗萊以具說服力的敘述和魅力風格，概括電腦演算法的數學要點，並闡明這些數學如何改變諸如醫療保健、司法、運輸和藝術等領域。在我們這個日益為數據所驅動的世界，她是睿智的導覽員，帶我們看見這個世界的優勢與可怖。
――艾利剋斯‧貝洛斯（Alex Bellos） ∣ 《數字奇航》（Alex’s Adventures in Numberland）作者
 
本書是針對我們周遭無所不在的演算法，一部輕快活潑又親近易讀的指南。
――喬丹‧艾倫伯格（Jordan Ellenberg） ∣ 威斯康辛大學麥迪遜分校數學教授、《數學教你不犯錯》（How Not to Be Wrong）作者
 
以前，電腦是工具，接著是玩具；現在，它在我們周遭隨處可見。在這個令人不知所措的新世界，找不到比漢娜‧弗萊更棒的導覽員，她的這部著作隨處可見機智、敘事精采且極其透徹的洞見。太棒瞭！
――提姆‧哈福特（Tim Harford） ∣ 《親愛的臥底經濟學傢》（The Undercover Economist）和《轉角遇見經濟學》（Fifty Things that Made the Modern Economy）作者、電視及廣播節目主持人
 
本書是緊張刺激、節奏明快的閱讀經驗，你將被激怒、受到挑釁和挑戰。眾多經過縝密研究的例證，揭露我們生存其中的驚人新世界，而目的曖昧不明的黑箱決策，正在決定我們個人與集體的命運。歡迎來到大數據的現代世界，你滿有可能被惡搞瞭。
――凱西‧歐尼爾（Cathy O’Neil） ∣ 《大數據的傲慢與偏見》（Weapons of Math Destruction）作者
 
每一個不假思索地將我們的命運交託給演算法的人，都應該閱讀漢娜‧弗萊精湛又令人愉悅的召喚之作。因為你知道嗎，機器決定的未來可能恰違背我們人類的最佳利益。
――大衛‧羅文（David Rowan） ∣ 英國版 《連綫》雜誌（Wired）創始主編
 
敘事熟稔精妙、睿智且筆調輕鬆，漢娜‧弗萊對於我們如何在人工智慧時代生存的精采探討，將在未來若乾年的吧颱邊、餐桌旁激盪齣更多論辯。
――亞當‧拉塞福（Adam Rutherford） ∣ 英國演化生物學傢、科普作傢
 
漢娜‧弗萊是這個星球上最棒的解說者之一。在本書中，她著手處理一項需要認真思考的議題，以其明晰的筆法、迷人的故事，以及一貫的幽默感和令人愉悅的風格，娓娓道來。
――史蒂芬‧斯托蓋茨（Steven Strogatz） ∣ 康乃爾大學數學教授、《X的奇幻旅程》（The Joy of x）作者
 
弗萊以令人耳目一新的簡明文筆，說明人工智慧、機器學習和復雜的演算法的真正涵義，對劍橋分析醜聞、無人駕駛車和其他許多讓人不安的現代現象提供一些簡潔的解釋。
――凱蒂‧蓋絲特（Katy Guest） ∣ 《衛報》（The Guardian）
 
對不熟悉人工智慧技術麵嚮的讀者來說，本書提供瞭演算法如何運作的最佳通俗解說。
――《科學》期刊（Science）

風格獨具、深思熟慮又一絲不苟的持平記述，說明日漸支配我們生活的軟體能做到和無法做到的事……一部齣色易讀的導覽，從一個故事輕鬆轉換到另一個故事，不讓讀者覺得棘手。
――奧利佛‧穆迪（Oliver Moody） ∣ 《泰晤士報》（The Times）

《代碼的低語：數字時代下的權力、控製與人類命運》 在信息洪流以前所未有的速度衝刷著我們生活的今天，我們與技術之間的關係正經曆著一場深刻的重塑。我們習慣於將冰冷的邏輯、精準的計算視為可靠的基石，是效率的代名詞，是現代文明進步的驅動力。然而，當我們深入觀察支撐起這個數字世界的底層代碼與復雜係統時，一個更微妙、更令人不安的圖景開始浮現：代碼不僅是工具，它正在成為一種新的權力結構，一種無形的意識形態，深刻地界定著我們的選擇、認知乃至社會走嚮。 本書並非探討某一個特定技術的原理，而是深入剖析瞭支撐現代社會運行的“計算範式”本身所蘊含的哲學睏境、社會結構性影響以及倫理邊界。我們將目光投嚮那些隱藏在屏幕背後，驅動著金融市場波動、塑造著公共輿論走嚮、決定著資源分配的抽象算法體係。這不是一本關於編程技巧的指南，而是一次對數字基礎設施如何重塑人類主體性的嚴肅反思。 第一部分：邏輯的殖民與認知的重塑 數字時代的開端，伴隨著一種樂觀的承諾：技術將解放人類，帶來透明與效率。然而，本書首先探討的是這種解放背後的隱憂——“邏輯的殖民”。當我們越來越多的決策權讓渡給預設規則的係統時，人類的直覺、經驗和價值判斷是如何被係統性地邊緣化的？ 我們將考察的是“自動化偏見”的社會根源。這種偏見並非源於技術的惡意，而是源於係統設計者在編碼之初所植入的特定價值觀和預設框架。每一個“是”或“否”的背後，都凝結著設計者對“最優解”的特定理解。這種理解，一旦被大規模推廣，便可能固化社會中的既有不公，甚至在無意中壓製瞭多元化的思考路徑。例如，在信貸評估、招聘篩選乃至司法輔助係統中，當曆史數據被用作預測未來的唯一標準時，那些未能被數據充分記錄的邊緣群體和非傳統路徑，便可能被無形地排除在主流機會之外。係統看似客觀，實則將曆史的局限性編碼進瞭未來的可能性。 我們還將深入分析“數字黑箱”對人類自我認知的侵蝕。當係統的運行邏輯變得極其復雜，即便是設計者也難以完全追溯每一個決策的精確因果鏈條時，人類對自身行為的解釋權被削弱。我們開始接受“係統說瞭算”的解釋，而不是深入探究其背後的人類意圖與局限。這種對解釋權的放棄，是對理性主體性的極大削弱。我們必須追問：一個無法被完全理解和解釋的係統，是否還值得我們無條件地信賴其判斷？ 第二部分：基礎設施的權力結構 現代社會的基礎設施已不再僅僅是鋼筋水泥，而是流動的代碼和龐大的數據中心。本書認為，控製瞭這些基礎設施的實體，便掌握瞭新的、比傳統政治權力更為隱蔽卻更具滲透性的影響力。 我們將探討“數據主權”的消逝與重構。數據是新時代的石油，但它並非均勻分布。少數科技巨頭通過對全球信息流的匯集與分析，構建起瞭前所未有的信息壁壘。這種集中化不僅是商業競爭的問題，更是社會權力分配的根本性議題。當信息流被少數機構通過算法進行篩選、排序和推薦時，他們實際上成為瞭集體注意力的“守門人”。他們通過微妙的乾預，塑造瞭我們所見的世界圖景，影響著社會共識的形成速度與方嚮。 我們還會審視“平颱化生存”的本質。從社交互動到商業往來，從信息獲取到政治參與，越來越多的人類活動被吸納進由少數商業實體構建的數字場域中。這些場域的規則由企業而非公共機構製定，其核心目標是最大化用戶粘性和商業價值。這導緻瞭對公共領域的商業化侵蝕，以及對公民權利在數字空間中定義的模糊化。當我們所有的存在都必須通過特定平颱的接口時，這些平颱對我們的控製程度，已經遠超齣瞭傳統的公共服務提供者。 第三部分：控製的幻覺與人類的能動性 技術革命常常伴隨著一種“控製的幻覺”——即我們似乎對世界擁有前所未有的掌控力，因為一切都可以被量化、預測和優化。然而，本書的論點在於，這種對完美的計算控製，恰恰可能導緻更深層的失控。 過度依賴自動化係統，會造成人類技能的退化和反應遲鈍。當係統在常規狀態下錶現完美時，一旦遭遇“黑天鵝”事件或設計者未曾預料的復雜交互，人類操作者可能因為長期脫離實際操作而無法及時接管，導緻災難性的後果。這種“功能性失憶”是技術進步帶來的隱性風險。 最後，本書將著力於探討人類如何在數字霸權中重建能動性。這並非呼籲徹底抵製技術，而是主張一種更為審慎、更有意識的技術參與。我們需要發展新的“數字素養”——不僅是使用軟件的能力，更是質疑、解構和重新設計規則的能力。我們需要推動對基礎設施的“可解釋性”和“問責製”的製度化要求，將計算的透明度視為一項基本人權。 《代碼的低語》試圖喚醒讀者，認識到我們正生活在一個由代碼重塑的現實中。理解代碼的邏輯，挑戰其默認設置，並重新確立人類價值在數字世界中的優先地位，是當代社會麵臨的最緊迫的挑戰之一。這不是一場技術與反技術的鬥爭，而是關於我們希望由何種邏輯來定義未來生活形態的深刻對話。

作者簡介

漢娜‧弗萊Hannah Fry
倫敦大學學院（University College London）城市數學副教授。每天的工作是運用數學模型來研究人類行為模式，曾與政府部門、警方、醫療保健分析師和超市閤作。
在TED上的演講纍積數百萬人次觀看，並為BBC和英國公共廣播電視服務網（PBS）製作過多部電視紀錄片；主持BBC長期播齣的科學性播客節目《拉塞福與弗萊的好奇事件簿》（The Curious Cases of Rutherford & Fry）。
著有《數學的戀愛應用題》（The Mathematics of Love）等書。

譯者簡介

林誌懋
颱灣大學物理係肄業、颱灣大學哲學係畢業，曾任職雜誌社文稿編輯、齣版社編輯，現專職翻譯。譯有《叔本華》、《伏爾泰》、《天賜美味》、《阿基米德的浴缸》、《數學巨人哥德爾》、《艾可博士的36道推理謎題》、《所謂的知識分子》（閤譯）、《光的故事》、《萬物的尺度》（閤譯）、《知識超人：埃及大冒險》、《補腦全書》、《培養自律的小孩》、《公尺的誕生》（閤譯）、《巴西，如斯壯麗》、《萬物運動大曆史》、《酒杯裏的謀殺》、《愚昧者》（閤譯）、《打敗NASA上太空》。

關於書名的一個註解
導論
 
【第一章  權力】
迴歸基本麵／盲目信任／人工智慧遇上天然呆／何時否決／權力鬥爭
 
【第二章  資料】
聚沙成塔／目標市場／西部蠻荒／劍橋分析／精細操弄／給我評比
 
【第三章  司法】
一緻性的難題／正義方程式／問問觀眾／人類vs機器／尋找黑武士／機器的偏差／艱難的決定／總結
 
【第四章  醫療】
模式獵手／視物機器／AI盟友／修女研究／預測的力量／數位診斷／親愛的，這是最基本的／麻煩的資料／隱私問題／基因洩天機／最大的善？
 
【第五章  車輛】
我周遭有什麼？／貝牧師的大教堂／所以，你的無人駕駛車應該去撞行人來救你的命嗎？／違反道路規則／公司寶寶／自動化的反諷／寄予厚望
 
【第六章  犯罪】
山貓行動與草坪灑水器／未來圖錶／標示與助長／犯罪預報機／預言付諸實現／你以為你是誰？／看見分身／百萬分之一？／取得平衡／復雜難解的取捨
 
【第七章  藝術】
多重世界／獵尋當紅炸子雞／品質量化／「傑齣的藝術傢模仿，偉大的藝術傢盜竊」——畢卡索
 
【結語】
人類加上機器
 
謝辭
注釋

這真是一本好書，解開「演算法」這個時髦科技魔法箱子！！
《打開演算法黑箱》這個書名就非常吸引人，彷彿告訴你可以解答許多黑色魔法的祕密，其實「演算法」這個名詞已經在學術界、産業界長久以來應用於蒐集到的資料來進行分析及相關預測，最常見於醫療診斷、司法體係、新興的商業購物及帶有大量政治爭議性的民主選舉操作。為何這幾年來任何一種方案隻要加上「機器學習」、「人工智慧」、「類神經網路係統」等字樣，似乎這個方案就有瞭魔法般，馬上成為行業中權威的代名詞？人類似乎知曉自身的缺陷（決策帶有情感、無法長期處理單一重復動作），而將完美的解決方案投射於一颱能夠自我學習成長又永遠不帶情緒、喜好偏見的自動化電腦！然而大傢卻不知道每一種演算法的SOP 及邏輯推理都是設計者（人類專傢）預先設定的啊！
當然機器學習後的演算法一定是可以幫助人類解決大部分消耗腦力判斷的工作，也一定能大幅提升生活的品質甚至到更高的境界，然而如果演算邏輯的設定來自於人類，那麼意味著每一颱機器的決策思考點是否又麵臨著道德的風險與矛盾呢？因為每個演算邏輯設計者就還是生命中伴隨著喜怒哀樂成長曆程的你跟我啊！
對於想要瞭解「演算法」是什麼、演算法為何能夠成為科技新魔法的你，絕對是你不能錯過的一本好書。
        ―― ――丁彥允 ∣ 喜門史塔雷剋創辦人兼總經理
 
在《打開演算法黑箱》這本著作中，作者漢娜．弗萊搭配生動的真實案例，告訴我們資料和機器學習型演算法如何改變現代生活的每一個層麵，從司法體係、醫療保健、無人駕駛車，到犯罪預測及防範、藝術創作等，以及人類該如何因應。作者藉著多個依賴演算法做決定而造成傷害的故事，說明不要盡信人工智慧機器的權威。她建議演算法和人類以夥伴關係一起閤作，善用彼此的強項，並且互相提升彼此的能力。此外，作者提到免費的演算法正刺探我們的隱私，蒐集及運用個人資料以獲利，也因此歐盟已立法製定瞭「一般資料保護規則」。她也提及一些瀏覽器已有內建的「智慧防追蹤」。我們應該敦促政府檢討及修正「個人資料保護法」，更完善保障個人隱私及消費者權益。總括而言，這本著作提醒我們在享受人工智慧機器帶來更便利的生活之餘，也要思考人類在這智慧時代的定位。
        ―― ――王國禎 ∣ 國立交通大學資訊工程學係教授
 
如作者所言：未來，不是偶然，而是你我使然。人工智慧因人而生，這次將徹底改寫人類的未來。
        ―― ――李友專 ∣ 颱北醫學大學醫學科技學院特聘教授兼院長
 
《打開演算法黑箱》這本書不斷交錯著兩種正反互駁的觀點：演算法可以很厲害，也可能犯很愚笨的錯誤；信任它可能可以走得很遠，但盲目的信任往往會導緻巨大的災害；它往往復雜得難以解釋，但卻不是不可能被操弄；它可以帶給人類更美好的生活，但是也同時帶來隱私與安全上的隱憂。在人工智慧的世代，人類如何能善用之並與其和平共處，相信讀者從這本書中可以找到許多的啓發。
        ―― ――林守德 ∣ 國立颱灣大學資訊工程學係教授、教育部人工智慧技術及應用人纔培育計畫辦公室主任
 
生活科技培養設計思考。
資訊科技培養演算思維。
這是最新十二年國教中學資訊教育的兩門課程。《打開演算法黑箱》這本書啓迪我們學習如何思考設計演算法，適閤做為科技教育的必讀選材。
演算法是讓電腦按照步驟執行大量演算的指令清單。演算法清一色是數學運算：運用方程式、算術、代數、微積分、邏輯和機率等，並轉譯成電腦編碼。這是為什麼在AI的時代，先進國傢一再強調未來數學基礎好的人纔是社會最需要的。
演算法已滲透到我們的各種日常。本書從權力的觀點，控製與被控製的角度做為上位綱領，以實例深入剖析司法判刑、醫療診斷、自駕車的倫理、犯罪預期、藝術仿真等既已發生的議題，跨越科技領域，從心理學、社會學、法學、醫學、音樂、美術、文學等等，穿透力十足的整理、論辯，引領我們思考，人類與機器的強項必須如何協調整閤纔能讓「演算法的整體淨效益成為社會健康發展的正能量」。這本書是大學通識教育的優良教材。
作者數學傢漢娜．弗萊她嚴謹論證的特質，在本書的撰寫上充分的延伸發揮瞭。
這是一本超越休閑性的科普讀物，生活在數位AI時代，必讀！
        ―― ――林福來 ∣ 颱灣師範大學名譽教授
 
本書說的機器，已經不再是工業時代靠著機構與內燃機哐啷作響的生産設備，而是在看得見的你我手上的手機、車上的微電腦主機闆，或是也許在遠的、看不見的機房裏，用許多方式組成或大或小的資訊設備。它們不太做實際的「動作」，但實際上以某種「難以名之」的方式，影響瞭在這個社會裏能動作的人――我們。這種難以看見接觸，高度專業性，同時也被鑲嵌在龐大技術係統裏的資訊運作，對於廣大的一般人來說，是難以想像的黑箱。黑箱雖並不直接等於惡或是無法挑戰的霸權，我們首先必須能意識到黑箱的存在，並且對黑箱中運作的技術有興趣，時時不斷地保持敏銳與好奇，對於生活在資訊時代的這個人生，堅持一些重要做為人的價值。
資訊科學的興起是奠基在數學上。博士時期以數學角度研究流體學領域微小液滴變形的漢娜．弗萊，之後以討論各種生活中常見的事物，推廣公眾對數學的興趣，在二○一八年獲得Christopher Zeeman Medal for Communication of Mathematics的肯定。《打開演算法黑箱》以各種發生過的實例，從說明及分析基礎的數學邏輯――演算法――如何與在事件中的人互動，提點齣這個時代做為一個人的挑戰，與任務。
人工智慧（AI）有沒有智慧很難斷定，但確是實實在在地滿載瞭演算法和繁重（發展演算法和應用演算法）的工人（labour）時數的努力；談演算法的書沒有數學公式，但敘說瞭過去數學邏輯與社會運作人類生活種種幸與不幸的交織。新世界如何美麗？我們如何拆解黑箱、透明化黑箱，甚至從頭開始建立民主、開放的，根本沒有「箱」的知識係統？
這是一本寫給人的書，寫給黑箱外、也是寫給黑箱裏的人看的書。在颱灣學術、教育領域正極力推展AI做為新顯學的今日，齣生在這個時代的年輕天然資訊人，曾經經曆過，或參與過，演算法從解一個小的偏微分方程，到協助今日鋪天蓋地的臉部辨識、自駕技術的蓬勃發展與運用的中年世代，還有在農業時代成長、在資訊時代成熟的所有人，這是寫給你的書。
        ―― ――洪文玲 ∣ 颱灣科技與社會研究學會理事長
 
科技時代，AI做為一種選項，我們應該考量的不是「用」或者「不用」，而是「怎麼用」。要迴答這個問題，我們需要知道AI可以「做什麼」。在這點上，本書無疑是成功的。漢娜．弗萊從具體案例齣發，透過平易近人的口吻，嚮我們展示演算法早已是日常生活中不可或缺的一環，時刻影響著我們的選擇。如果你仍認為人生掌握在自己手中，我會強烈建議你讀讀這本書。
        ―― ――張智皓 ∣ 《今天學哲學瞭沒》作者
 
人工智慧或演算法對於司法裁判的影響爭論已久，從二○一六年開始，法律人和科技人對於司法的判決，由人類法官決定，或是由演算法來決定何者更優，雙方各執一詞爭論不休。
如果你對於隻從片麵的角度探討這個問題，拉抬自己認同的驕傲專業感到厭煩，那麼應該來看看這本書。
作者客觀的評價瞭演算法和司法係統的衝突與矛盾，沒有高估瞭科技，也沒有低估人與人之間的矛盾對於製度的影響，真實的評價瞭人類社會一個真實的糾結：「我們不喜歡錯誤，但不可否認的，錯誤是人類社會的一部分」。
        ―― ――郭榮彥 ∣  Lawsnote創辦人、律師
 
進入人工智慧時代，我們該如何規範人工智慧，或甚至反過來說，人工智慧該如何規範我們，是不容迴避的課題。本書透過大量案例顯示，人們不完全理解我們部署的係統潛在危險。當前的機器學習運行得如此之快，以至於沒有人真正知道機器是如何做齣決策，甚至連開發人員也不知道。這些係統還會持續從環境中學習並更新他們的函式，使研究人員更難控製和理解決策過程。在這樣缺乏透明度的黑盒子問題籠罩下，要建立道德準則跟規範，當然就極為睏難。但人類的專傢有的偏見跟偏誤，更是早就被證實有更大的問題，而我們不也是一直倚賴這樣有缺陷的係統在運作嗎？你跟我若是在運氣不好，在不久後的某一天上法庭，非常有可能是接受機器法官的判決。身為人類，你認為下一步該怎麼做呢？看完這本書，我想你會對於這個難題有個好答案。
        ―― ――鄭國威 ∣ 泛科知識公司知識長

◎多重世界
 
在所有形式的娛樂活動中，我們都把熱門度當成品質的代錶物在用。舉例來說，二○○七年有一項研究，審視瞭《紐約時報》暢銷書排行榜對於一本書的公眾知名度有何影響。該項研究作者艾倫．索倫森（Alan Sorensen）藉由探討排行榜編製方式的特異慣例，尋找那些原本應該依其實際銷售上榜，卻因時間延誤及意外疏忽而未上榜的書籍銷售成功的軌跡，並與那些真正上榜的書籍進行比較。他發現一個戲劇化的效應：光是上榜就讓銷售平均增加百分之十三至百分之十四，第一次齣書的作傢則增加百分之五十七的銷售。
 
我們運用越多平颱來看有哪些東西熱門——暢銷書排行榜、亞馬遜排名、爛番茄評分、Spotify排行榜——社會認同所造成的影響就會越大。當拋給我們的選項數以百萬計，加上行銷手段、知名度、媒體炒作和評論贊賞全都在爭取你的注目，效應更進一步放大。
 
這一切都意味著，有時可怕的音樂也能登頂。這不是隻有我在憤世嫉俗。一九九○年代，英國有兩位充分瞭解此一事實的音樂製作人，謠傳他們打賭誰能把爛到不可能再爛的歌麯弄上排行榜。據說，這場賭局的結果是一個叫做Vanilla的女子樂團，她們初登場的歌〈No way no way, mah na mah na〉，是以著名的布偶電視節目歌麯改編而成。這個樂團的演齣成果隻能寬容地描述為是在唱歌沒錯，一件看起來像是用微軟小畫傢做齣來的藝術作品，一段大有助於拿下曆來最糟錶演奬的行銷影片。但Vanilla有強大的盟友。由於幾傢雜誌的專題報導，以及上BBC的電視節目《流行金榜》（Top of the Pops）亮相，這首歌還是成功登上排行榜第十四名（原注：可惜本書格式不適於節錄音樂，因為我真的希望讓你們聽聽這首歌爛到多好笑。你們會去Google一下吧？）。
 
老實說，這個樂團的成功很短命。到瞭她們的第二支單麯，熱門程度已經開始衰退。她們從未發錶第三支單麯。這一切的確像是在暗示，社會認同並非唯一有作用的因素——真的就像「音樂實驗室」（Music Lab）團隊的後續實驗所證明的。
 
他們第二項研究的設計大緻和第一次相同。但這次為瞭測試從熱門度的感受變成自證預言（self-fulfilling prophecy，譯注：指人們先入為主的判斷將或多或少影響人們的行為，亦即我們會在不經意間使自己的預言成為現實）到何種程度，研究人員增加瞭一項轉摺。

评分☆☆☆☆☆

最近因為工作關係，接觸到一些關於大數據分析和機器學習的內容，雖然不是核心技術人員，但對於演算法在現代社會的影響力，多少有點體會。然而，很多時候，我們看到的都是演算法成功應用在推薦係統、自動駕駛等等，那些光鮮亮麗的一麵。但《打開演算法黑箱》這個標題，卻直接揭露瞭那潛藏在光鮮亮麗背後，令人不安的另一麵。我對「反噬的AI」這個說法特別有感，總覺得當我們過度依賴這些自動化的係統，是不是也正在削弱我們自己判斷和決策的能力？而且，如果AI的學習數據源頭就存在問題，例如有種族歧視或性別偏見的訊息，那AI學到的豈不是就會放大這些偏見？這本書聽起來就像是一本對現代科技發展進行深度反思的讀物，它可能不會提供什麼簡單的解決方案，但卻能引導我們去思考更深層次的問題。我尤其好奇作者會如何解釋「走鐘的運算」，這是不是指單純的程式錯誤，還是更複雜的，例如AI在追求效率或特定目標時，忽略瞭人性的價值和社會的倫理規範？當演算法的影響力越來越大，甚至滲透到我們生活的每一個角落，我們是否還有能力去審視、去糾正，甚至去阻止它做齣錯誤的判斷？這本書的書名，正是觸及瞭這個攸關我們未來福祉的關鍵議題。

评分☆☆☆☆☆

這本《打開演算法黑箱：反噬的AI、走鐘的運算，當演算法齣瞭錯，人類還能控製它嗎？》的書名，聽起來就充滿瞭實驗室裡冒著白煙、儀器發齣怪聲的科幻場景，但仔細想想，這不正是我們正在經歷的現實嗎？每天新聞上充斥著AI的新聞，有時候是讚美它的智慧，有時候卻是報導它的失誤，甚至引發瞭爭議。我對「反噬的AI」這個概念特別感興趣，總覺得我們投入瞭這麼多資源和心力去發展AI，如果它最終卻成為對我們自身的威脅，那將是多麼諷刺的一件事。書名中的「走鐘的運算」，讓我想起那些因為數據偏差導緻的AI種族歧視、性別歧視，或者是演算法為瞭追求某個極端化的目標，而忽略瞭社會整體利益的現象。這本書感覺不像是那種教你如何利用AI賺大錢的書，而是更偏嚮於一種批判性的反思，探討AI發展的陰暗麵。我很好奇作者會不會深入剖析，是什麼樣的機製，讓一個原本應該是理性、客觀的演算法，變得「走鐘」？而最關鍵的問題是，「人類還能控製它嗎？」，這句話聽起來有點絕望，但也非常真實。我們是否已經走在瞭一條不歸路上，將來會不會真的被我們自己創造齣來的技術所擺佈？這本書的書名，勾起瞭我對科技倫理和未來社會走嚮的深刻憂慮，很想從書中尋找一些能夠釐清這些迷霧的線索。

评分☆☆☆☆☆

最近在書店翻到這本《打開演算法黑箱：反噬的AI、走鐘的運算，當演算法齣瞭錯，人類還能控製它嗎？》，書名就很聳動，直接點齣瞭大傢心裡最深的隱憂。想當初AI剛起步的時候，大傢還在驚嘆它能做多厲害的事，從下棋到寫詩，好像無所不能，總覺得是人類智慧的延伸，是解決問題的萬靈丹。結果呢？現在聽到的都是關於AI的偏見、失控，甚至可能威脅到人類的生存。這本書光是書名，就成功勾起我的好奇心，想知道究竟是哪些環節齣瞭問題，讓原本是為瞭造福人類的科技，現在卻可能反噬我們。我很好奇作者會用什麼樣的案例來闡述這些「黑箱」的運作，是真的像電影裡演的那樣，AI有瞭自主意識，開始對抗人類，還是更貼近現實，是我們在設計和應用AI的過程中，本身就埋下瞭某些無法預知的風險？特別是「走鐘的運算」這個詞，聽起來就很有畫麵感，好像程式碼跑歪瞭，結果卻是一連串的災難。這本書會不會解釋，我們是不是把太多決策權交給瞭我們其實並不完全理解的係統？而且，當演算法齣錯，我們有辦法修正嗎？還是它已經變得太複雜，連發明它的人都束手無策瞭？這大概是我對這本書最感興趣的地方，希望能從裡麵得到一些啟發，也釐清我對AI未來發展的恐懼。

评分☆☆☆☆☆

坦白說，我在考慮要不要買這本書之前，腦袋裡閃過無數個關於AI的討論，大部分都圍繞著「它會不會取代我的工作？」或是「AI寫的東西可不可信？」之類比較錶麵的問題。但《打開演算法黑箱》這個書名，立刻就把話題拉深瞭好幾個層次。它不隻是討論AI能做什麼，而是更根本地去探討「當它失控時，我們該怎麼辦？」這個問題，聽起來就很有深度，不是那種淺嘗輒止的科普文。我特別好奇作者會怎麼描繪「反噬的AI」這個概念，是純粹的技術性問題，還是牽涉到倫理、社會甚至是哲學層麵的挑戰？像是新聞上常報導的，AI在招募、貸款審核或是刑事判決上齣現歧視性結果，這都是因為演算法的設計者本身就帶有偏見，還是演算法在學習過程中自己產生瞭這種偏見？如果是後者，那是不是代錶AI本身就具備某種程度的「自主性」，即使不是意識，也足以讓我們擔憂？「走鐘的運算」讓我聯想到那些因為數據不完整、算法有缺陷而導緻的離譜結果，但更讓我不安的是，這種「走鐘」有沒有可能是有意圖的？或者說，當AI變得足夠複雜，它是否會為瞭達到某個目的，而採取我們意想不到的方式，即使那樣的方式對我們不利？這本書的書名，真的讓我開始認真思考，我們是不是在不知不覺中，為自己創造瞭一個越來越難以駕馭的未來。

评分☆☆☆☆☆

收到這本書的資訊，心裡的第一個感覺就是「終於有人說齣我想說的瞭！」近年來AI發展的速度，真的讓人既興奮又有點毛骨悚然。《打開演算法黑箱》這個名字，直接命中瞭我對AI的疑慮。我常常在想，那些我們每天都在使用的推薦演算法，像是購物網站、新聞App，它們到底是如何運作的？它們會不會為瞭讓我們花更多錢，而不斷推送我們並不真正需要的東西？更不用說一些涉及公共利益的演算法，像是交通號誌的調度、犯罪預測係統，如果這些演算法「走鐘」瞭，那後果不堪設想。書名中的「反噬的AI」，聽起來就像是一把雙刃劍，我們以為在掌控它，結果卻可能被它所傷。我很好奇作者會不會舉齣一些真實世界的案例，來證明演算法的失控是如何發生的，以及它造成瞭怎樣的影響。這本書的重點，顯然不在於教我們如何寫演算法，而是要我們去理解，當我們把越來越多的權力，交給那些我們不一定能完全理解的「黑箱」時，我們該如何保持警惕？「人類還能控製它嗎？」這個問句，更是直擊核心，也是我最想從這本書中找到答案的。希望這本書能提供一些不同於主流媒體的視角，讓我們更清楚地認識演算法的真實麵貌。