Tecnología con rostro humano

Cuando hablamos de inteligencia artificial, solemos comenzar por lo que puede hacer.

¿Cuánto tiempo ahorra? ¿Cuántos documentos procesa? ¿Qué precisión alcanza? ¿Qué tareas automatiza? ¿Cuánto reduce los costos?

Son preguntas necesarias.

Pero no son suficientes.

Porque antes de implementar un sistema que clasifica personas, recomienda decisiones o distribuye oportunidades, existen otras preguntas que también deben entrar en la mesa técnica:

¿Qué objetivo estamos optimizando? ¿Quién decidió que ese objetivo era el correcto? ¿Qué realidad quedó fuera de los datos? ¿Quién pagará el costo cuando el modelo falle? ¿Podrá la persona afectada comprender lo ocurrido?  ¿Podrá cuestionarlo? ¿Podrá apelar? ¿Quién responderá por el daño?

La IA procesa. La persona responde.

La inteligencia artificial puede detectar patrones, analizar millones de registros, producir textos, hacer predicciones y recomendar acciones.

Pero hay algo que no puede hacer: asumir responsabilidad moral. Tampoco conoce el dolor,  no espera, no perdona, no ama, no experimenta las consecuencias de aquello que recomienda.

Por eso, detrás de toda decisión automatizada que afecte a una persona debe permanecer una responsabilidad humana identificable.

Nunca debería ser suficiente decir:

“Lo decidió el algoritmo”.

Porque los algoritmos no aparecen solos.

Alguien los financia, alguien define sus objetivos, alguien selecciona los datos, alguien decide qué variables utilizar, alguien establece los umbrales.
alguien los compra, alguien los implementa, y alguien debe responder por sus consecuencias.

Precisión no significa justicia

Un modelo puede alcanzar un 98 % de precisión y producir decisiones injustas. Una respuesta puede llegar en segundos y estar equivocada. Una recomendación puede estar perfectamente personalizada y, aun así, reducir nuestra libertad. Una automatización puede disminuir costos y aumentar productividad sin representar ningún verdadero progreso humano.

La eficiencia es una métrica, pero la dignidad es un criterio.

Y no son lo mismo.

Una persona no es un conjunto de variables

Aquí aparece uno de los riesgos más profundos de la inteligencia artificial.

No necesariamente que las máquinas comiencen a parecerse demasiado a nosotros sino que nosotros comencemos a mirar a las personas como las miran los sistemas: como perfiles que clasificar, conductas que predecir, riesgos que controlar, capacidades que optimizar, costos que reducir
o datos que explotar.

Pero una persona puede tener datos pero no ser cosiderada nada más que un dato.

Puede tener antecedentes y no estar condenada a repetirlos.

Puede recibir una puntuación pero no quedar definida por ella.

Puede pertenecer estadísticamente a un grupo y continuar siendo una persona única, libre y abierta a un futuro que ningún modelo puede determinar completamente.

Ninguna puntuación agota la dignidad humana.

Los profesionales tecnológicos tenemos una responsabilidad especial

Cada arquitectura expresa una decisión, cada dataset contiene inclusiones y ausencias, cada variable representa una determinada forma de mirar la realidad, cada métrica decide qué entendemos por éxito, cada umbral determina cuándo una persona queda de un lado o del otro.

Por eso, desarrollar inteligencia artificial nunca es simplemente una actividad técnica., sino que también es una actividad humana, ética y social.  El desarrollador debe preguntarse más que si el código funciona.

El científico de datos, más que si mejora el modelo, el arquitecto, más que si escala. el directivo, más que si reduce costos. el responsable de seguridad, más que si protege el perímetro.

Todos debemos poder responder una pregunta mucho más incómoda: ¿Qué le ocurre a una persona cuando nuestro sistema se equivoca?

Y esto no pertenece solamente a los técnicos

Quien no programa también necesita comprender lo esencial. Porque la inteligencia artificial ya interviene en el trabajo, la educación, el crédito, la comunicación, la salud, la seguridad, la información y la vida pública.

No hace falta convertirse en ingeniero para participar de esta conversación.

Pero sí necesitamos ciudadanos capaces de preguntar:

¿Por qué el sistema decidió esto? ¿Qué información utilizó? ¿Qué pudo quedar afuera? Puedo cuestionarlo? Quién responde?

Comprender los fundamentos de la tecnología se está convirtiendo también en una manera de proteger nuestra libertad.

¿Qué IA necesitamos?

No una inteligencia artificial incuestionable. Necesitamos una IA: discutible, comprensible, auditable, apelable, supervisada, gobernada, responsable, orientada al bien común.

Una tecnología que conozca sus límites, una tecnología que no esconda decisiones humanas detrás de una apariencia de neutralidad, una tecnología que amplíe nuestras capacidades sin reducir nuestra responsabilidad.

La pregunta definitiva

Ante cada nuevo proyecto tecnológico podemos preguntar: ¿Podemos hacerlo?

Pero esa nunca debería ser la última pregunta. Debemos preguntarnos también: ¿Debemos hacerlo? ¿A quién sirve? ¿Quién puede resultar perjudicado? ¿Quién tendrá poder sobre quién? ¿Quién responderá cuando algo salga mal? Y, finalmente:

¿Esto ayuda a que la vida de cada persona sea más digna, libre, justa, fraterna y plenamente humana?

Porque la tecnología es una obra humana, y precisamente por eso, hagamos que conserve un rostro humano.