HUMANIA | 01: Una serie de MLData sobre inteligencia artificial, persona y sociedad.
Una carta abierta a quienes educan, legislan, cuidan, comunican, emprenden y gobiernan
La inteligencia artificial puede ser técnicamente compleja. Pero decidir para qué utilizarla, sobre quién, con qué datos, bajo qué límites y quién debe responder por sus consecuencias no es solamente una cuestión técnica. Es una cuestión humana y, cada vez más, una cuestión sobre la sociedad que queremos construir.
Imaginemos algunas decisiones
En todos estos casos existe una pregunta técnica imprescindible: ¿funciona? Pero inmediatamente aparecen otras: ¿debemos utilizarla?, ¿para qué?, ¿sobre quién?, ¿qué datos necesita?, ¿qué ocurre con la persona equivocadamente clasificada?, ¿quién obtiene los beneficios y quién soporta los riesgos?, ¿podemos cuestionar una decisión automatizada?, ¿puede alguien detener el sistema?, ¿quién responde cuando algo sale mal?
Para contestar estas preguntas no basta saber programar.
La inteligencia artificial puede calcular, clasificar, predecir y recomendar. Pero alguien debe decidir qué vale la pena calcular, clasificar, predecir o recomendar.
Los técnicos son indispensables. Pero no son suficientes.
Como la tecnología es compleja, existe una tentación comprensible de pensar que las decisiones importantes deberían quedar principalmente en manos de quienes entienden sus algoritmos. Sería un error. No porque ingenieros, científicos de datos y especialistas en inteligencia artificial no sean fundamentales —lo son—, sino porque una cosa es preguntar cómo construir un sistema y otra muy distinta es preguntar qué sociedad estamos construyendo con los sistemas que desarrollamos.
Un ingeniero puede explicar cómo funciona un sistema de reconocimiento facial, pero decidir dónde debería utilizarse exige también pensar en privacidad, seguridad, proporcionalidad, derechos y posibles abusos. Un científico de datos puede desarrollar un modelo capaz de predecir determinados comportamientos, pero que algo pueda predecirse no significa automáticamente que sea legítimo utilizar esa predicción para decidir sobre una persona. Del mismo modo, un sistema puede detectar patrones asociados con dificultades escolares; decidir qué hacer con un niño después de esa clasificación requiere educación, psicología, contexto, prudencia y responsabilidad.
Por eso, quienes no son técnicos también poseen conocimientos indispensables para esta conversación. Una directora de colegio conoce a los niños y sabe lo que una etiqueta puede producir en su desarrollo. Un jurista comprende por qué una persona perjudicada por una decisión debe poder conocerla, cuestionarla y defenderse. Un médico conoce la diferencia entre calcular una probabilidad y decidir cómo cuidar a una persona concreta. Un psicólogo comprende la vulnerabilidad, la persuasión y la autonomía. Un periodista conoce el valor de la verdad y el daño de una falsedad convincente. Un empresario entiende la productividad, pero también conoce los rostros y las familias detrás de la palabra empleo. Y quien gobierna no necesita convertirse en ingeniero, pero sí necesita saber qué preguntas formular antes de delegar decisiones con consecuencias públicas.
No todos necesitamos aprender a programar inteligencia artificial. Pero todos necesitamos aprender a formular mejores preguntas sobre ella.
El debate no es personas contra máquinas
Nada de esto exige oponerse a la tecnología. La inteligencia artificial puede detectar enfermedades, analizar cantidades enormes de información, descubrir fraudes, reducir tareas repetitivas, mejorar procesos, crear herramientas de accesibilidad y ampliar las capacidades de docentes, profesionales y pequeñas empresas. La innovación puede ser profundamente humana.
El problema comienza cuando dejamos de distinguir: cuando todo lo eficiente empieza a parecernos bueno, todo lo técnicamente posible parece inevitable y una mejora estadística basta para justificar cualquier implementación. El problema aparece cuando reducir costos se convierte en una explicación suficiente y olvidamos que una persona es mucho más que aquello que podemos medir sobre ella.
Hoy podemos conocer muchísimo sobre alguien a partir de sus datos: dónde se mueve, qué compra, qué busca, qué lee, qué contenidos capturan su atención, qué enfermedades podría desarrollar, qué probabilidad tiene de incumplir un préstamo o qué estudiante podría tener dificultades. Pero incluso si nuestros modelos fueran extraordinariamente precisos, seguiría existiendo una diferencia fundamental:
Los datos pueden describir aspectos de una persona. Los datos no son la persona.
Un perfil no contiene toda su historia. Una probabilidad no contiene su dignidad. Una clasificación no debería convertirse silenciosamente en una sentencia. Y cuanto mejores sean nuestras tecnologías para describir, clasificar y anticipar comportamientos, mayor será la tentación de creer que conocemos suficientemente a la persona que tenemos delante.
Podemos optimizar. La pregunta es qué.
Una plataforma puede maximizar nuestra atención sin preguntarse si aquello que captura nuestra mirada es verdadero o saludable. Una empresa puede reducir costos laborales sin considerar qué ocurre con las personas y comunidades afectadas. Un sistema educativo puede mejorar una métrica sin captar todo aquello que significa educar a una persona. Un algoritmo puede disminuir determinados riesgos y, al mismo tiempo, perjudicar injustamente a individuos o grupos.
Por eso detrás de toda inteligencia artificial permanecen decisiones humanas. Alguien eligió el objetivo, los datos y aquello que debía medirse. Alguien determinó qué errores serían tolerables y decidió dónde utilizar el sistema. Y alguien debe conservar la capacidad de intervenir cuando sus consecuencias resulten inaceptables.
Automatizar una decisión no automatiza la responsabilidad.
La cuestión, entonces, no es simplemente si utilizaremos inteligencia artificial. La utilizaremos cada vez más. La pregunta es qué decisiones estamos dispuestos a delegar y cuáles deben permanecer bajo responsabilidad humana. Cuando una decisión es pequeña, reversible y de bajo impacto, automatizar puede ser relativamente sencillo. Pero cuando afecta derechos, educación, salud, trabajo, seguridad, libertad o personas vulnerables, la exigencia debe ser mayor. A mayor autonomía, escala, impacto e irreversibilidad, mayor debe ser también la gobernanza y responsabilidad humana.
Paraguay tampoco está fuera de esta conversación
Podemos imaginar que estos debates pertenecen a Silicon Valley, Washington, Bruselas o Beijing. No es así. Estas decisiones ya están llegando a nuestras empresas, universidades, escuelas, bancos, medios de comunicación e instituciones públicas.
Paraguay tendrá que decidir qué datos proteger, qué tecnologías adoptar, qué capacidades desarrollar localmente, qué infraestructura necesita, cómo proteger a niños y personas vulnerables, qué capacidades tecnológicas queremos controlar como país y qué límites no estamos dispuestos a cruzar aunque hacerlo prometa mayor eficiencia, rentabilidad o seguridad.
Si comenzamos a discutir estas cuestiones solamente cuando los sistemas ya estén instalados, muchas decisiones fundamentales habrán sido tomadas de antemano, y quizás por otros. Por eso necesitamos comenzar antes: no desde el miedo ni desde una fascinación ingenua, sino desde el discernimiento.
Y para hacerlo necesitamos muchas disciplinas. Necesitamos ingenieros y científicos de datos, pero también juristas, educadores, psicólogos, bioeticistas, economistas, médicos, empresarios, periodistas, responsables de políticas públicas, familias y ciudadanos. Desde la tecnología podemos preguntar qué puede hacer un sistema; desde el derecho, qué puede hacerse legítimamente; desde la psicología y la educación, qué consecuencias puede producir sobre las personas; desde la bioética, qué ocurre cuando entran en juego la vida, el cuidado y la vulnerabilidad; y desde las tradiciones humanistas y la Doctrina Social de la Iglesia podemos interrogarnos por la dignidad, la libertad, la responsabilidad, el trabajo, la solidaridad y el bien común.
Ninguna disciplina posee por sí sola toda la respuesta. Precisamente por eso necesitamos encontrarnos.
HUMANIA nace para esa conversación
Esta serie de publicaciones no busca oponerse a la inteligencia artificial, tampoco defenderla acríticamente. Tampoco busca convertir problemas que afectan a todos en discusiones incomprensibles reservadas a especialistas. Se trata de intentar comprender la tecnología, discernir sus consecuencias y custodiar lo humano.
En las próximas publicaciones queremos preguntarnos, entre otras cosas, si debemos reemplazar a una persona simplemente porque una IA puede hacerlo; cuánto tiene derecho una empresa a saber sobre nosotros; cuándo recomendar se convierte en manipular; si es legítimo utilizar nuestras vulnerabilidades para vendernos algo o incluso para cuidarnos; qué decisiones educativas no deberíamos delegar; hasta dónde puede llegar una máquina en decisiones sobre la vida humana; y qué significa realmente perder el control sobre sistemas cada vez más autónomos.
No esperamos encontrar respuestas simples. Pero sí podemos afirmar algo desde el comienzo:
Estas preguntas son demasiado importantes para que alguien las responda por nosotros.
Porque la pregunta decisiva sobre inteligencia artificial no es solamente qué máquinas seremos capaces de construir.
La pregunta es qué sociedad estamos construyendo con ellas.
¿Qué sociedad estamos construyendo con las tecnologías que desarrollamos?
MLDATA | HUMANIA
IA, Persona y Sociedad