Capítulo 1: Principios éticos fundamentales en la tecnología

Imaginemos una aplicación de salud que promete mantener tus historiales médicos perfectamente seguros —tan seguros que solo un experto en tecnología puede acceder a ella. Tu abuela, que es quien más la necesita, no puede usarla. Ese conflicto entre la protección y la equidad en el mundo real está en el centro de toda tecnología que construimos. Este capítulo explica las principales ideas éticas que nos ayudan a manejar decisiones tan difíciles, para que podamos diseñar herramientas que realmente sirvan a todos.

El panorama general#

Cada tecnología, desde una simple aplicación de smartphone hasta un sistema de vigilancia nacional, implica decisiones sobre quién se beneficia, quién resulta perjudicado y quién queda excluido. Estas decisiones no son solo técnicas; son profundamente éticas. En este capítulo presentamos cuatro principios clave—beneficencia (beneficence), no maleficencia (nonmaleficence), justicia (justice) y eficiencia (efficiency)—que actúan como una brújula para el diseño responsable. Luego exploramos qué sucede cuando estos principios entran en conflicto, especialmente la lucha clásica entre una seguridad muy estricta y una accesibilidad real. Al final, verás que no existe una respuesta perfecta; el objetivo es sopesar cuidadosamente las compensaciones y mantener la dignidad humana en el centro.

Los cuatro pilares: Beneficencia, No maleficencia, Justicia y Eficiencia#

Cuando nos proponemos crear una nueva tecnología, casi siempre tenemos un objetivo positivo en mente: ayudar a las personas a comunicarse más rápido, mejorar la salud, facilitar las tareas cotidianas. Pero las buenas intenciones no bastan. La ética nos proporciona un lenguaje compartido para examinar nuestros diseños desde múltiples ángulos.

Beneficencia (Beneficence): El deber de hacer el bien activamente —diseñar tecnología que promueva el bienestar y aporte valor a la vida de las personas.

Pensemos en una pulsera de actividad física que te empuja a moverte más. Su propósito entero es la beneficencia: busca mejorar tu salud. Pero debemos preguntarnos: ¿el bienestar de quién? ¿Acaso la pulsera avergüenza sin querer a los usuarios que no pueden cumplir sus objetivos de pasos debido a una discapacidad? La beneficencia nos obliga a mirar más allá del usuario promedio y preguntar a quién se está ayudando realmente.

No maleficencia (Nonmaleficence): El deber de evitar causar daño —a menudo resumido como «ante todo, no hacer daño».

Este es el principio que nos hace detenernos antes de lanzar una funcionalidad. Una red social podría introducir un video con reproducción automática para aumentar la interacción (un beneficio), pero si genera sobrecarga de información, ansiedad o adicción, viola la no maleficencia. En tecnología, el daño puede ser físico (fallo de un sensor en un coche autónomo), psicológico (un algoritmo de recomendación que amplifica contenido sobre trastornos alimenticios) o social (un sistema de reconocimiento facial que identifica erróneamente a personas y conduce a detenciones injustas). La no maleficencia exige que anticipemos y reduzcamos estos daños.

Justicia (Justice): El deber de distribuir beneficios y cargas de manera equitativa entre todos los grupos, sin discriminación ni exclusión injusta.

La justicia pregunta: ¿quién obtiene acceso a esta tecnología y quién soporta sus costes? Si una ciudad instala sensores de calidad del aire solo en barrios ricos, los datos guiarán políticas que beneficien a esos residentes mientras ignoran la contaminación en zonas más pobres. La justicia exige corregir esos desequilibrios. Incluye la equidad en cómo los algoritmos tratan a diferentes grupos, cómo se distribuyen los riesgos a la privacidad y cómo se comparten las oportunidades económicas derivadas de la automatización.

Eficiencia (Efficiency): El objetivo de lograr el máximo beneficio con el mínimo desperdicio de recursos, tiempo o esfuerzo.

La eficiencia suele ser el principio más fácil de amar para los ingenieros. Queremos código que corra rápido, baterías que duren mucho y sistemas que escalen a bajo coste. Pero la eficiencia sola puede ser un matón. Un sistema de reconocimiento facial perfectamente eficiente que solo funciona con rostros de piel clara es eficiente para un segmento reducido de la población, pero va contra la justicia y la no maleficencia para todos los demás. La eficiencia debe apoyar a los otros principios, no apartarlos.

Estos cuatro principios no son una lista de verificación que marcar. Son lentes entre las que cambiamos al tomar decisiones. Un diseño que maximiza la beneficencia podría crear accidentalmente nuevos daños (no maleficencia), o podría ser tan caro que solo los ricos puedan costearlo (justicia). El verdadero arte de la tecnología ética consiste en navegar las tensiones entre ellos.

📝 Resumen de la sección: La beneficencia, la no maleficencia, la justicia y la eficiencia son los cuatro principios éticos fundamentales que guían el diseño tecnológico. A menudo tiran en direcciones distintas, por lo que un diseño responsable exige un equilibrio constante.

Cuando los buenos objetivos chocan: Seguridad frente a Accesibilidad#

Una de las disyuntivas más comunes y dolorosas enfrenta una seguridad robusta con la accesibilidad para grupos vulnerables. El dilema es sencillo: cuantas más barreras pongas para mantener fuera a los atacantes, más difícil se vuelve para los usuarios reales —especialmente aquellos que no son expertos en tecnología, tienen discapacidades o usan dispositivos antiguos— iniciar sesión.

Imagina una aplicación bancaria que exija autenticación de dos factores, una contraseña compleja que se cambie cada mes y un escaneo de huella dactilar. Para un usuario joven, experto en tecnología y con un teléfono moderno, esto es una molestia menor. Para una persona mayor con artritis que le cuesta escribir, o para una persona con discapacidad visual que usa un lector de pantalla que no puede manejar la secuencia de inicio de sesión, esos mismos pasos de seguridad se convierten en un muro. El banco ha logrado un alto nivel de no maleficencia (nonmaleficence) (proteger las cuentas del fraude) y eficiencia (seguridad automatizada), pero a costa de la justicia (justice) : ha excluido a algunos clientes de la gestión de su propio dinero.

Esto no es un escenario raro o excepcional. Durante la pandemia de COVID-19, muchos gobiernos lanzaron certificados digitales de vacunación. En algunos países, estos certificados solo podían almacenarse en aplicaciones móviles que requerían el software más reciente del teléfono y una conexión a internet confiable. Las personas sin teléfonos inteligentes —desproporcionadamente los mayores, las personas sin hogar y las de bajos ingresos— quedaron excluidas de viajes, restaurantes e incluso empleo. El sistema era eficiente y seguro, pero empeoró las desigualdades existentes.

Accesibilidad (Accessibility): La práctica de diseñar productos para que personas con una amplia variedad de capacidades, incluidas aquellas con discapacidades, puedan usarlos de manera fácil y efectiva.

La accesibilidad no es un complemento de nicho; es una expresión directa de la justicia. Cuando hablamos de seguridad frente a accesibilidad, en realidad hablamos de una tensión entre no maleficencia (prevenir violaciones de datos, robos de identidad) y justicia (garantizar la igualdad de acceso). No existe una regla única para resolver esta tensión. En cambio, debemos hacernos preguntas que se ajusten a la situación: ¿Qué es lo peor que podría pasar si falla la seguridad? ¿Quién resulta perjudicado cuando se excluye a un grupo? ¿Podemos ofrecer a los usuarios diferentes niveles de seguridad para que elijan lo que mejor les funcione?

Por ejemplo, un portal de salud podría permitir a los pacientes establecer un PIN simple de cuatro dígitos si además usan un escaneo de huella o reconocimiento facial en su dispositivo, mientras ofrece contraseñas más complejas para quienes las prefieran. La clave es involucrar a las comunidades afectadas en el proceso de diseño —una práctica denominada codiseño (co‑design) (diseñar junto con las personas que usarán el sistema)— para que sus necesidades reales moldeen la disyuntiva, no solo las suposiciones de los ingenieros.

📝 Resumen de la sección: Una seguridad fuerte puede excluir accidentalmente a personas con discapacidades, adultos mayores y aquellos con acceso limitado a la tecnología. Equilibrar la no maleficencia y la justicia exige un diseño flexible y centrado en el usuario, en lugar de barreras únicas.

Consecuencias imprevistas: cómo las medidas de seguridad pueden salir mal#

Cuando las medidas de seguridad resultan demasiado engorrosas, la gente no se rinde sin más: busca soluciones alternativas. Y esas soluciones suelen hacer que el sistema sea menos seguro que si la seguridad hubiera sido más fácil de usar desde el principio. Esto es lo que llamamos un resultado perverso (perverse outcome): una acción destinada a aumentar la seguridad que, en realidad, la reduce.

Resultado perverso: una acción pensada para hacer algo más seguro que termina haciéndolo menos seguro.

Pensemos en la norma que exige que las tarjetas bancarias tengan un PIN. Para evitar robos, el sistema exige memorizar el PIN y no apuntarlo nunca. En la práctica, mucha gente —sobre todo quienes manejan decenas de contraseñas— escribe el PIN en un papel y lo guarda en la cartera, junto a la tarjeta. Otros usan el mismo PIN obvio para todo. La política de seguridad, aplicada con demasiada rigidez, exigía más memoria de la que la gente podía gestionar, así que la sortearon de la forma más arriesgada. El objetivo era no causar daño, pero el resultado los hizo más vulnerables.

Este patrón aparece por todas partes. En un hospital, el sistema de historial clínico digital exige una contraseña de 16 caracteres que cambia cada 30 días. Las enfermeras, que van a contrarreloj para salvar vidas, empiezan a dejar sus contraseñas en post-its pegados a los monitores. La medida de seguridad, diseñada para proteger la privacidad del paciente, ahora la expone a cualquiera que pase por allí. La carga recaía pesadamente sobre las enfermeras, que ya sufren una enorme presión de tiempo: una redistribución del riesgo (redistribution of risk) desde la responsabilidad legal del hospital hacia el personal de primera línea.

Redistribución del riesgo: cuando un diseño traslada el riesgo de un grupo a otro en lugar de eliminarlo por completo.

La redistribución del riesgo es un concepto crucial. Al diseñar un sistema, no eliminamos el riesgo; lo movemos de un sitio a otro. Una política de contraseñas estricta puede trasladar el riesgo de una filtración de datos del departamento de TI al usuario individual, que ahora debe recordar una cadena compleja de caracteres. Si ese usuario tiene dislexia o problemas de memoria, el riesgo se desplaza de nuevo: ahora afecta a su capacidad para acceder a servicios esenciales. El nivel de ingresos también influye. Una persona acomodada puede permitirse un gestor de contraseñas y un móvil nuevo con huella dactilar o reconocimiento facial; una persona con bajos ingresos que usa un ordenador compartido en la biblioteca no puede. El diseño de seguridad, por muy neutral que parezca, redistribuye la carga según el nivel económico y la capacidad.

Esto no significa que debamos abandonar la seguridad. Significa que debemos trazar dónde recae la carga y preguntarnos si esa distribución es justa. Una medida de seguridad que protege la reputación de una empresa mientras dificulta la vida a sus clientes más vulnerables es injusta. A veces, la opción más ética es aceptar un riesgo ligeramente mayor de fuga de datos para evitar un daño real y cotidiano a los grupos desfavorecidos.

📝 Resumen de la sección: Las medidas de seguridad excesivamente estrictas suelen provocar soluciones alternativas que debilitan la protección. El riesgo no se elimina, sino que se redistribuye, y la carga recae a menudo sobre quienes menos pueden soportarla: personas con discapacidad, mayores y desfavorecidos económicos.

La cuerda floja ética: Protección de datos perfecta vs. Justicia y seguridad#

Algunas personas sostienen que siempre deberíamos buscar la protección de datos más fuerte posible, cifrando todo de manera que ni siquiera el proveedor del servicio pueda leerlo. En la superficie, esto suena a un triunfo de la no maleficencia (nonmaleficence) y la beneficencia (beneficence): nadie puede hacer un mal uso de datos a los que no tiene acceso. Pero la protección absoluta puede chocar con la justicia (justice) e incluso con la seguridad general.

Imaginemos un refugio para víctimas de violencia doméstica que gestiona una plataforma de mensajería segura para supervivientes. Para protegerlas de sus agresores, la plataforma utiliza un cifrado de extremo a extremo (end-to-end encryption) y elimina automáticamente los mensajes después de que se hayan leído. Una superviviente usa la plataforma para decirle al personal que su agresor ha encontrado su nueva dirección y está de camino. Luego pierde acceso a internet. El personal del refugio, al no poder recuperar el mensaje debido al cifrado y la política de eliminación automática, no puede actuar a tiempo. El sistema protegió perfectamente su privacidad, pero también impidió una intervención que podría salvarle la vida. La disyuntiva ética es clara: en este caso, la protección de datos perfecta obró en contra de ayudarla y de evitarle daños, porque bloqueó a las mismas personas que podían protegerla.

Este dilema también surge en la salud pública. Durante un brote de enfermedad, las aplicaciones de rastreo de contactos pueden frenar la propagación. Si la aplicación está diseñada para ser perfectamente privada (sin almacenar datos de ubicación, sin compartir identificadores), puede ser menos eficaz para advertir a las personas que estuvieron expuestas. Un diseño ligeramente menos privado que comparta registros anonimizados de con quién has estado cerca con las autoridades sanitarias podría salvar vidas. Aquí, la disyuntiva está entre la privacidad individual (parte de la justicia y la no maleficencia) y la seguridad pública (una forma de beneficencia). No hay una única respuesta correcta; la tarea ética es hacer explícita la disyuntiva e involucrar a las comunidades afectadas en la decisión.

El concepto de proporcionalidad (proportionality) ayuda. La proporcionalidad significa que cualquier invasión a la privacidad o reducción de la seguridad no debe ser mayor de lo necesario para alcanzar un objetivo real e importante. Si una medida menos intrusiva puede conseguir el mismo beneficio, deberíamos elegirla. Por ejemplo, una aplicación de rastreo de contactos podría usar señales Bluetooth que expiren automáticamente después de 14 días, en lugar de un seguimiento GPS que cree un mapa permanente de tus movimientos. La persona diseñadora ética pregunta: ¿Cuál es la forma menos dañina de lograr el bien que buscamos?

Estas disyuntivas no son fallos del sistema; son características de un mundo con recursos limitados y valores en competencia. El objetivo no es eliminar la tensión, sino navegarla con honestidad, humildad y un compromiso con quienes se ven más afectados.

📝 Resumen de la sección: La protección de datos perfecta puede a veces impedir acciones que salvan vidas o profundizar la injusticia. El diseño ético sopesa los beneficios de la privacidad frente a otros valores fundamentales como la seguridad y la equidad, buscando siempre la medida efectiva menos intrusiva.

Resumen#

Partimos de cuatro ideas sencillas pero poderosas: hacer el bien, evitar el daño, ser justos y usar los recursos con sensatez. Al aplicarlas a la tecnología real, estas ideas tiran en direcciones opuestas. La seguridad puede excluir a personas. La búsqueda de la privacidad perfecta puede poner a las personas en peligro. Las peores cargas suelen recaer sobre quienes tienen menos poder. No hay una fórmula para hacer desaparecer estos conflictos, pero podemos mantener la curiosidad, preguntarnos a quiénes afectan y no fingir nunca que una decisión técnica es solo una decisión técnica. Esa mentalidad es el verdadero corazón de la tecnología ética.