第一章：**基礎倫理原則 (Foundational Ethical Principles)**

想像一個健康應用程式，號稱能完美保護你的醫療記錄——但安全到只有科技專家才能登入。你最需要它的祖母卻無法使用。這種保護與現實公平之間的衝突，正是我們建構每一項科技時的核心問題。本章將介紹主要的倫理概念，幫助我們處理這些艱難抉擇，從而設計出真正服務所有人的工具。

宏观视角#

每一項科技，從簡單的手機 App 到全國性的監控系統，都在做出選擇：誰受益、誰受害、誰被遺漏。這些選擇不單是技術問題，更深深涉及倫理。本章將介紹四個關鍵原則——善行 (beneficence)、無害 (nonmaleficence)、公正 (justice) 與 效率 (efficiency)——它們就像負責任設計的指南針。接著我們會探討當這些原則彼此衝突時會發生什麼事，尤其是極度嚴格的安全性與真正的可及性之間那場經典拉鋸戰。讀完本章，你會發現沒有完美的答案；目標是仔細權衡取捨，並始終以人的尊嚴為核心。

四大支柱：行善、不傷害、公平與效率#

當我們打算開發一項新技術時，腦中想的通常都是正面的目標：幫助人們更快溝通、改善健康、讓日常生活更便利。但光有善意是不夠的。倫理學提供了一套共同的語言，讓我們能從不同角度審視自己的設計。

行善 (Beneficence)： 積極行善的義務——設計能促進福祉、為人們生活增添價值的科技。

想想一個會提醒你多動動的運動追蹤器。它的唯一目的就是行善：旨在改善你的健康。但我們得問：是誰的福祉呢？ 這個追蹤器會不會無意間羞辱那些因殘疾而無法達成步數目標的使用者？行善原則促使我們超越一般使用者，去思考誰真正得到了幫助。

不傷害 (Nonmaleficence)： 避免造成傷害的義務——通常簡稱為「首先，不造成傷害」。

這個原則讓我們在發布一項功能前踩下煞車。社交媒體平台可能為了提高互動率而推出自動播放影片功能（帶來好處），但如果這導致資訊超載、焦慮或成癮，就違反了不傷害原則。在科技領域，傷害可以是身體上的（自駕車感測器失靈）、心理上的（推薦演算法放大與飲食失調相關的內容），或是社會性的（人臉辨識系統錯誤識別他人，導致冤獄）。不傷害原則要求我們事先預見並減少這些傷害。

公平 (Justice)： 公平地將利益與負擔分配給所有群體的義務，不得歧視或不當排除任何人。

公平原則會問：誰能使用這項科技，誰又要承擔它的代價？如果一個城市只在富裕社區安裝空氣品質感測器，數據將引導政策造福這些居民，而忽略較貧窮地區的汙染問題。公平要求我們糾正這種失衡。這包括演算法如何公平對待不同群體、隱私風險如何分配，以及自動化帶來的經濟機會如何共享。

效率 (Efficiency)： 以最少的資源、時間或精力，達成最大效益的目標。

效率往往是工程師最喜歡的原則。我們希望程式碼跑得快、電池用得久、系統能便宜地擴展。但光有效率，可能會變成霸凌者。一套只對淺膚色臉孔有效的人臉辨識系統，雖然對一小部分人口而言效率極高，但對其他人來說，卻違反了公平與不傷害原則。效率應該輔助其他原則，而不是把它們推到一邊。

這四項原則不是一張可以逐項打勾的清單。它們是我們在做決策時可以切換的透鏡。一個最大化行善效果的設計，可能不小心產生了新的傷害（不傷害原則），或者變得過於昂貴，只有富人負擔得起（公平原則）。倫理科技的真諦，正是在這些原則的衝突與拉扯中找尋平衡。

📝 本節回顧： 行善、不傷害、公平與效率是引導科技設計的四項核心倫理原則。它們往往將我們導向不同方向，因此負責任的設計需要不斷地在其中取得平衡。

當良好目標相互衝突：安全性與無障礙設計#

最常見且棘手的取捨之一，就是在上好的安全性與弱勢族群的無障礙使用之間做選擇。兩難的道理很簡單：你設下的障礙越多，就越難讓攻擊者入侵，但這也同時讓真正的使用者——尤其是那些不熟悉科技、有身心障礙，或使用較老舊裝置的人——更難登入。

想像一個銀行 App，要求使用者啟用雙重驗證、每個月更換一次複雜密碼，還要按壓指紋。對於一個擁有新款手機、熟悉科技的年輕使用者來說，這只是小麻煩；但對於一位關節炎嚴重、打字困難的長者，或者一位使用螢幕報讀軟體卻無法操作登入流程的視障人士，同樣的安全步驟就成了一堵高牆。這家銀行做到了很好的不傷害原則 (nonmaleficence)（保護帳戶免於詐騙）與效益 (efficiency)（自動化安全機制），卻犧牲了正義 (justice)：它讓部分客戶無法管理自己的錢。

這不是罕見的邊緣案例。COVID-19 疫情期間，許多政府推出了數位疫苗證明。在某些國家，這些證明只能存在於需要最新手機軟體與穩定網路連線的 App 裡。沒有智慧型手機的人——以老年人、無家者與低收入族群為多——就這樣被擋在旅行、餐廳，甚至就業的大門之外。這套系統既有效率又安全，卻讓既有的不平等變得更糟。

無障礙設計 (accessibility)： 一種產品設計實務，目標是讓擁有各種能力的人——包括身心障礙者——都能輕鬆且有效地使用該產品。

無障礙設計絕非可有可無的附加功能，它直接體現了正義的精神。當我們談論安全性與無障礙設計之間的取捨時，其實真正在談的是不傷害原則（防止資料外洩、身分盜竊）與正義（確保平等使用機會）之間的張力。並沒有放諸四海皆準的規則可以化解這種張力。相反地，我們必須針對具體情況提出問題：安全防護如果真的失效，最糟會發生什麼？某個群體被擋在門外時，誰會受到傷害？我們能不能提供不同的安全層級，讓使用者自己選擇適合的方式？

舉例來說，一個健康照護入口網站可以允許病人設定簡單的四位數 PIN 碼，前提是他們同時在裝置上啟用指紋或臉部辨識；至於想要更高安全性的使用者，則可以選擇更複雜的密碼。關鍵在於，要在設計過程中讓受影響的社群參與進來——這種做法稱為共同設計 (co‑design)（與系統的實際使用者一起設計）——這樣一來，取捨的標準就不再只是工程師的猜測，而是使用者的真實需求。

📝 小結： 強大的安全機制可能無意間將身心障礙者、老年人，以及科技使用能力有限的人拒於門外。在不傷害原則與正義之間取得平衡，需要的不是一體適用的障礙，而是有彈性、以使用者為中心的設計。

意料之外的後果：安全措施如何適得其反#

當安全措施變得過於繁瑣、難以遵守時，人們並不會就此放棄，而是會設法繞過這些規定。而這些繞道而行的方法，往往比一開始就採用更友善的安全措施，反而讓整個系統變得更不安全。這就是我們所說的反常結果 (perverse outcome)：一個原本旨在提升安全性的行動，最終卻降低了它。

反常結果： 原本用於提升安全性的行動，結果卻讓系統變得更加不安全。

以銀行卡必須設定 PIN 碼的規定為例。為了防盜，系統要求 PIN 碼必須牢記，絕不能寫下來。但在實務中，很多人——尤其是那些得記住幾十組密碼的人——會把 PIN 碼寫在一張小紙片上，塞進錢包裡，就放在卡片旁邊。其他人則所有帳戶都用同一個顯而易見的密碼。這項安全政策執行得過於嚴格，對人們記憶力的要求超出負荷，於是用戶便以最危險的方式規避它。政策目標本是「不造成傷害」，結果卻讓使用者變得更加脆弱。

這種模式處處可見。某醫院的電子病歷系統要求使用 16 個字元的密碼，且每 30 天更換一次。護理師忙著搶救生命，只好把密碼寫在便利貼上，貼在螢幕旁邊。這項旨在保護病患隱私的安全措施，如今反倒讓任何經過的人都能看到密碼。沉重的負擔落到了已經承受極大時間壓力的護理師身上——這就是所謂的風險重新分配 (redistribution of risk)：將風險從醫院的法律責任，轉移到第一線工作人員身上。

風險重新分配： 當設計將風險從一個群體轉移到另一個群體，而非徹底消除風險時，就稱為風險重新分配。

風險重新分配是一個關鍵概念。當我們設計一個系統時，我們並非消除風險，而是在移動風險。一項嚴格的密碼政策，可能將資料外洩的風險從 IT 部門轉移到個別使用者身上，使用者現在必須記住一串複雜的字元。如果該使用者有閱讀障礙或記憶力問題，風險會再次轉移——變成他們能否取得必要服務的問題。收入水準也扮演了角色。有錢人負擔得起密碼管理軟體，以及配備指紋或臉部辨識的新手機；但低收入者可能只能使用圖書館的共用電腦，根本無法做到。這種安全設計，表面上看似中立，實際上卻是沿著收入與能力的界線，重新分配了負擔。

這並不代表我們應該放棄安全措施。而是說，我們必須釐清負擔落在誰身上，並問問這樣的分配是否公平。一項安全措施若能保護企業的聲譽，卻讓最弱勢的客戶生活更困難，那就是不公平。有時候，最能體現倫理的選擇是：為了避免弱勢群體在日常中真正承受的傷害，而接受稍微高一點的資料外洩風險。

📝 小節回顧： 過於嚴格的安全措施往往會引發規避行為，反而削弱保護效果。風險並未被消除，而是被重新分配，而且負擔常常落在最無力承擔的人身上——包括身心障礙者、長者以及經濟弱勢族群。

道德鋼索：完美數據保護 vs. 正義與安全#

有些人主張，我們應該始終追求最強的數據保護，將一切加密，讓服務提供者都無法讀取。表面上，這聽起來是非惡意原則 (nonmaleficence) 和 善意原則 (beneficence) 的勝利：沒有人能濫用他們無法訪問的數據。但絕對保護可能與正義甚至整體安全相衝突。

想像一個家庭暴力庇護所，為倖存者提供一個安全的訊息平台。為了保護他們免受施虐者的侵害，平台使用端對端加密，並在訊息被閱讀後自動刪除。一名倖存者通過平台告訴工作人員，她的施虐者找到了她的新地址並正在趕來的路上。隨後她失去了網路連線。庇護所的工作人員因加密和自動刪除政策而無法檢索該訊息，無法及時採取行動。系統完美保護了她的隱私，但同時也阻止了一次拯救生命的干預。倫理取捨很明確：在這種情況下，完美的數據保護違背了幫助她甚至避免傷害的原則，因為它阻擋了那些本可以保護她的人。

這個困境也在公共衛生領域出現。在疾病爆發期間，接觸追蹤應用程式可以減緩傳播。如果應用程式設計為完全私密——不儲存位置數據，不共享識別碼——它可能在警告暴露者方面效果較差。一個稍微不那麼私密的設計，將您接近過的人的匿名記錄與衛生當局共享，可以拯救生命。在這裡，取捨在於個人隱私（一種正義和非惡意原則）與公共安全（一種善意原則）。沒有單一的正確答案；倫理任務是讓取捨公開，並讓受影響的社區參與決策。

比例性 (proportionality) 的概念有所幫助。比例性意味著任何對隱私的侵犯或安全的降低，都不應超過實現真實重要目標所需的程度。如果一個侵入性較小的措施能達到同樣的好處，我們就應該選擇它。例如，接觸追蹤應用程式可能使用藍牙訊號，這些訊號在14天後自動過期，而不是使用GPS追蹤，後者會創建您行動的永久地圖。倫理設計師會問：我們追求的好處中，哪種方式傷害最小？

像這樣的取捨並不是系統的錯誤；它們是資源有限且價值觀競爭的世界的特徵。目標不是消除緊張，而是以誠實、謙遜和對最受影響者的承諾來駕馭它。

📝 小節回顧： 完美的數據保護有時會阻止拯救生命的行動或加深不公。倫理設計權衡隱私的好處與其他核心價值如安全和公平，始終以最小侵入性的有效措施為目標。

摘要#

我們從四個簡單卻強大的原則出發：行善 (Beneficence)、避害 (Nonmaleficence)、公正 (Justice)，以及有效率地運用資源 (Efficiency)。當這些原則落實在真實的科技應用中時，彼此之間往往會互相拉扯。安全措施可能將某些人拒於門外；追求完美的隱私可能讓人陷於危險；最沉重的負擔往往落在權力最弱的人身上。沒有任何公式能讓這些衝突憑空消失，但我們可以保持求知的心態，追問誰會受到影響，並絕不假裝技術選擇只是純技術問題。這種思維，才是倫理科技真正的核心。