第1章：テクノロジーにおける基礎的な**倫理原則 (Foundational Ethical Principles)**

ある健康管理アプリを想像してみてください。医療記録を完全に保護すると謳っているものの、ログインできるのは技術に詳しい専門家だけ、という状況です。それを最も必要とするおばあちゃんは使えません。この「保護」と「現実世界での公平さ」の衝突こそ、私たちが作るあらゆるテクノロジーの中心にある問題です。本章では、こうした難しい選択に対処するための主要な倫理原則 (Ethical Principles) を解説し、真にすべての人に役立つツールを設計できるようにします。

大きな全体像#

スマートフォンのアプリから全国規模の監視システムに至るまで、あらゆるテクノロジーは、誰が利益を得て、誰が害を受け、誰が取り残されるのかについての選択を行っています。これらの選択は単に技術的なものではなく、深く倫理的です。この章では、責任ある設計の指針となる四つの主要原則—善行 (beneficence)、無害 (nonmaleficence)、正義 (justice)、効率性 (efficiency)—を紹介します。次に、これらの原則が衝突した場合に何が起こるか、特に強固なセキュリティと真のアクセシビリティの間の古典的な葛藤について探求します。この章を終える頃には、完璧な答えは存在せず、目的はトレードオフを慎重に比較検討し、人間の尊厳を中心に据え続けることであることがおわかりいただけるでしょう。

四本柱：善行 (Beneficence)、非悪意 (Nonmaleficence)、正義 (Justice)、効率 (Efficiency)#

新しい技術を生み出そうとするとき、たいていはポジティブな目的があります。人々のコミュニケーションを速くすること、健康を改善すること、日常の作業を楽にすること。しかし、善意だけでは不十分です。倫理は、私たちのデザインを多角的に検討するための共通言語を提供してくれます。

善行: 積極的に善を行う義務——人々の幸福を促進し、生活に価値を付加する技術をデザインすること。

たとえば、もっと体を動かすように促すフィットネストラッカーを考えてみましょう。その目的はまさに善行、つまり健康の向上です。しかし、ここで問わなければならないのは 誰の 幸福か？ という点です。たとえば、障害があるために歩数目標を達成できないユーザーを、このトラッカーが結果的に責めていることになるのではないか？ 善行の考え方は、平均的なユーザーだけでなく、実際に誰が助けられているのかを考えるよう促します。

非悪意: 危害を引き起こさないようにする義務——よく「まず、害をなすな」と要約されます。

この原則こそ、機能をリリースする前に立ち止まらせるものです。SNSプラットフォームがエンゲージメントを高めるために動画の自動再生を導入したとします（これは利益です）。しかし、それが情報過多や不安、依存症を引き起こすなら、非悪意に反します。技術における危害には、物理的なもの（自動運転車のセンサー故障）、心理的なもの（摂食障害に関するコンテンツを増幅するレコメンデーションアルゴリズム）、社会的なもの（顔認識システムが人を誤認し、不当な逮捕につながる）があります。非悪意は、こうした危害を予見し、軽減することを求めます。

正義: 利益と負担をすべての集団に公平に分配し、差別や不当な排除をしない義務。

正義が問うのは、誰がこの技術にアクセスできるのか、誰がそのコストを負担するのか、という点です。ある都市が大気質センサーを裕福な地区にだけ設置したとすると、そのデータは住民の利益になる政策を導く一方で、貧困地域の公害を見過ごすことになります。正義はこうした不均衡を是正することを要求します。これには、アルゴリズムが異なる集団をどのように扱うか、プライバシーリスクがどのように配分されるか、自動化による経済的機会がどのように共有されるか、といった公平性も含まれます。

効率: 資源、時間、労力を最小限に抑えて最大の利益を得るという目標。

効率は、エンジニアが最も共感しやすい原理でしょう。高速で動くコード、長持ちするバッテリー、低コストでスケールするシステムを私たちは望みます。しかし、効率だけを追いかけると、横暴になりがちです。浅黒い肌の人にしか機能しない、完璧に効率的な顔認識システムは、狭い層にとっては効率的かもしれませんが、他のすべての人にとっては正義と非悪意に反します。効率は他の原則を支えるものであるべきであり、脇に追いやるものではありません。

これら四つの原則は、単にチェックリストとして処理するものではありません。判断を下すときに切り替えながら使うレンズのようなものです。善行を最大限に高めたデザインが、意図せず新たな害を生み出したり（非悪意）、あまりに高価で金持ちにしか手が届かなくなったり（正義）するかもしれません。倫理的な技術の真髄は、これらの間にある緊張関係をうまく扱うことにあります。

📝 まとめ: 善行、非悪意、正義、効率——これら四つが技術デザインを導く核となる倫理原則です。それぞれがしばしば異なる方向に引っ張るため、責任あるデザインには絶え間ないバランス調整が欠かせません。

良い目標同士の衝突：セキュリティ (Security) vs. アクセシビリティ (Accessibility)#

セキュリティを強固にすればするほど、弱い立場にある人々にとってアクセシビリティが損なわれる——これは頻繁に直面する厄介なトレードオフです。ジレンマは単純で、攻撃者を締め出すために障壁を増やすほど、実際のユーザー、とりわけテクノロジーに詳しくない人や障がいのある人、古い端末を使っている人がログインしづらくなるというものです。

銀行アプリを想像してみてください。二要素認証、毎月変更が必要な複雑なパスワード、指紋スキャンが求められるとします。最新のスマートフォンを持つ若くてテクノロジーに精通したユーザーにとっては、これは小さな煩わしさに過ぎません。しかし、関節炎でタイピングが難しい高齢者や、ログイン画面をうまく処理できないスクリーンリーダーを使っている視覚障がい者にとっては、同じセキュリティ手順が壁となります。銀行は高い非悪意 (nonmaleficence)（口座を詐欺から守る）と効率性（自動化されたセキュリティ）を達成しましたが、その代償として公正 (justice) を犠牲にしました。つまり、一部の顧客が自分のお金を管理することを阻んでしまったのです。

これはまれな例外的ケースではありません。COVID-19パンデミックの際、多くの政府がデジタル接種証明書を導入しました。国によっては、これらの証明書は最新のスマートフォンソフトウェアと安定したインターネット接続が必要なモバイルアプリでしか保存できませんでした。スマートフォンを持たない人々——その多くが高齢者、ホームレス、低所得者層——は、旅行、外食、さらには就業の機会からも締め出されました。このシステムは効率的で安全でしたが、既存の不平等をさらに悪化させました。

アクセシビリティ: 障がいのある人を含む、多様な能力を持つ人々が製品を簡単かつ効果的に使えるように設計する実践のこと。

アクセシビリティはニッチな追加機能ではありません。それは公正の直接的な表現です。セキュリティ対アクセシビリティという議論は、実は非悪意（データ漏洩や個人情報詐欺の防止）と公正（平等なアクセスの確保）の間の緊張関係を論じているのです。この緊張を解消する万能のルールはありません。その代わりに、状況に合わせた問いを立てる必要があります。『セキュリティが破られたら最悪どんなことが起こるか？』『あるグループが締め出されたとき、誰が傷つくのか？』『ユーザーが自分に合ったレベルを選べるように、複数のセキュリティ段階を用意できないか？』

例えば、健康管理ポータルでは、指紋認証や顔認証と併用する場合に限り簡易な4桁のPINを設定できるようにし、より複雑なパスワードを希望するユーザーにはそれを提供する、といった方法が考えられます。鍵となるのは、影響を受けるコミュニティを設計プロセスに参加させること——これを共創 (co‑design)（システムを使う人々と一緒に設計すること）と呼びます——です。そうすることで、エンジニアの推測だけではなく、実際のニーズがトレードオフのあり方を決められるようになります。

📝 セクションのまとめ： 強固なセキュリティは、障がい者、高齢者、テクノロジーへのアクセスが限られている人々を偶発的に締め出してしまう可能性があります。非悪意と公正のバランスを取るには、万能の障壁ではなく、柔軟でユーザー中心の設計が求められます。

意図せぬ結果——セキュリティ対策が逆効果になるとき#

セキュリティ対策が厳しすぎて守りきれなくなると、人は「もう無理だ」と諦めるのではなく、抜け道を探します。そして、その抜け道が結局はシステム全体の安全性を下げてしまう——最初から使いやすい対策を取っておけば防げたはずのリスクを、むしろ拡大してしまうのです。この現象を 逆説的結果 (perverse outcome) と呼びます。すなわち、安全性を高めるつもりの行為が、かえって安全性を損なう結果を招くことです。

逆説的結果 (perverse outcome): 安全にするために取った行動が、結果的に安全性を低下させてしまうこと。

具体例を挙げましょう。銀行のキャッシュカードには暗証番号 (PIN) が必須です。盗難対策として、「PINは記憶し、絶対に書き留めてはいけない」というルールが課されています。ところが実際には、何十ものパスワードを抱える多くの人が、PINをメモ用紙に書いて財布の中、カードのすぐ隣に忍ばせています。また別の人は、全てのサービスに同じ安易なPINを使い回しています。セキュリティポリシーが厳格すぎて、人の記憶力に過大な要求をした結果、利用者は最も危険な方法でルールをすり抜けてしまったのです。「害を及ぼさない」という本来の目的に反して、むしろ脆弱性を拡大してしまいました。

同じパターンは至るところで見られます。病院の電子カルテシステムが「16文字以上のパスワード、30日ごとに変更必須」というルールを課したとしましょう。救命に追われる看護師たちは、モニターに付箋でパスワードを貼り出し始めます。患者のプライバシーを守るための対策が、今や通りすがりの誰にでも情報をさらす結果となっています。本来なら病院の法的責任として負うべきリスクが、すでに時間的プレッシャーにさらされている現場の看護師に重くのしかかる——これが リスクの再分配 (redistribution of risk) です。

リスクの再分配 (redistribution of risk): ある設計が、リスクを完全になくすのではなく、ある集団から別の集団へと移し替えてしまうこと。

リスクの再分配は極めて重要な概念です。システムを設計するとき、私たちはリスクを「消している」のではなく、「移動させている」にすぎません。厳格なパスワードポリシーは、データ漏洩のリスクをIT部門から個人ユーザーへと移し、ユーザーは複雑な文字列を記憶する責任を負わされます。そのユーザーがディスレクシアや記憶障害を抱えていれば、リスクはさらに移動します——今度は、必要なサービスにアクセスできるかどうかという、より根源的な問題へと変わります。所得水準も無関係ではありません。裕福な人はパスワードマネージャーや指紋・顔認証に対応した新しいスマートフォンを購入できますが、図書館の共有端末を使う低所得者層にはそれができません。どんなに中立に見えるセキュリティ設計も、その実、所得や能力のラインに沿って負担を再配分しているのです。

だからといって、セキュリティそのものを放棄すべきだと言いたいわけではありません。重要なのは、負担がどこにのしかかるのかを可視化し、その配分が公平かどうかを問うことです。企業の評判を守る一方で、最も脆弱な立場にある顧客の生活を苦しくするようなセキュリティ対策は、不公平です。時には、恵まれない人々に日々現実の困難を強いるより、侵害の確率をほんの少し甘受するほうが、倫理的に正しい選択であることもあるのです。

📝 セクションのおさらい: 厳しすぎるセキュリティは往々にして抜け道を生み、保護を弱める。リスクは消えるのではなく再分配され、その負担は障害者・高齢者・経済的に恵まれない人々など、最も負担に耐えられない層にのしかかりがちである。

倫理の綱渡り：完璧なデータ保護 vs. 正義と安全#

データ保護は常に最強を目指すべきだと主張する人もいます。つまり、すべてを暗号化し、サービス提供者でさえ読み取れないようにするという考え方です。表面的には、これは非悪意の原則 (nonmaleficence) と善行の原則 (beneficence) の勝利のように聞こえます。アクセスできないデータを悪用することは誰にもできませんからね。しかし、絶対的な保護は正義や、さらには全体的な安全と相反することもあります。

例えば、DVシェルターが生存者向けに安全なメッセージングプラットフォームを運営しているとしましょう。加害者から保護するため、このプラットフォームはエンドツーエンド暗号化を採用し、メッセージは読まれたら自動的に削除されます。ある生存者がこのプラットフォームを使い、スタッフに「加害者が自分の新しい住所を見つけて、今向かっている」と伝えました。その後、彼女はインターネットにアクセスできなくなってしまいます。シェルターのスタッフは暗号化と自動削除ポリシーのためにメッセージを取得できず、間に合う行動が取れません。システムは彼女のプライバシーを完璧に守りましたが、同時に命を救う介入を妨げてしまったのです。倫理的なトレードオフは明らかです。このケースでは、完璧なデータ保護が彼女を助けることや危害の回避に逆行し、彼女を守れるはずの人々の行動を阻んでしまいました。

このジレンマは公衆衛生の分野でも表面化します。疾病の発生時には、接触追跡アプリが感染拡大を抑えるのに役立ちます。アプリが完璧にプライベートに設計されている場合——位置情報を保存せず、識別子も共有しない——、曝露した人への警告効果は低くなるかもしれません。もう少しプライバシーを緩め、あなたが近くにいた人の匿名化された記録を保健当局と共有する設計であれば、命を救える可能性があります。ここでのトレードオフは、個人のプライバシー（正義と非悪意の一部）と公衆の安全（善行の一形態）の間です。唯一の正解はありません。倫理的な課題は、そのトレードオフを公開し、影響を受けるコミュニティを意思決定に参加させることです。

ここで役立つのが、比例性 (proportionality) という概念です。比例性とは、プライバシーの侵害やセキュリティの低下は、現実的で重要な目標を達成するために必要な範囲を超えてはならないという考え方です。もしより侵害の少ない手段で同じ利益が得られるなら、それを選ぶべきです。例えば、接触追跡アプリでは、あなたの動きの恒久的な地図を作成するGPS追跡ではなく、14日後に自動的に期限切れとなるBluetooth信号を使用する選択肢があります。倫理的な設計者は問いかけます：「私たちが求める善を達成するための、最も害の少ない方法は何か？」と。

このようなトレードオフはシステムのバグではなく、限られたリソースと競合する価値観が存在する世界の特徴です。目標は緊張を排除することではなく、誠実さと謙虚さ、そして最も影響を受ける人々への献身をもってそれを乗り越えることです。

📝 セクションのまとめ： 完璧なデータ保護は時に命を救う行動を妨げたり、不正義を深めたりすることがあります。倫理的な設計は、プライバシーの利益を安全性や公平性といった他の核となる価値観と比較検討し、常に最も侵害の少ない効果的な手段を目指します。

まとめ#

私たちは、「善を行う」「害を避ける」「公正であれ」「資源を賢く使え」という、シンプルながらも強力な4つの考え方から出発しました。これらを実際のテクノロジーに当てはめると、互いに相反する方向に引っ張られます。セキュリティは人を締め出すこともあれば、完全なプライバシーを追求することが危険を招くこともあります。最も重い負担は、往々にして最も力の弱い人々にのしかかります。こうした対立を解消する万能の公式はありませんが、私たちにできることは、好奇心を持ち続け、誰が影響を受けるのかを問い、技術的な選択が単なる技術的な選択に過ぎないと決して思い込まないことです。そのような姿勢こそが、倫理的なテクノロジーの真髄なのです。