Entrevista a José Antonio Seoane

• José Antonio, ¿cree posible una Ética Global, basada en valores universales, en relación a la conceptualización de la IA, su creación y su uso? 

En primer lugar, gracias por su interés y por la entrevista. 

Considero posible y recomendable una ética global para la IA, si bien resulta difícil en la actualidad por las divergencias y la rivalidad geopolítica entre los tres grandes modelos de gobernanza de la IA (Europa, EE.UU. y China). El modelo ético global tendría dos niveles: un primer nivel con un mínimo de criterios normativos aceptables para todos, que podría estar representado por los derechos humanos o por principios éticos universalmente aceptados (p. ej., dignidad, libertad, igualdad, bienestar); y un segundo nivel en el que cada cultura o sociedad podría interpretar los mínimos del primer nivel y añadir otros criterios éticos, aunque sin lesionar los mínimos universales del primer nivel. 

• ¿Qué relación existe entre la IA y el derecho? ¿Qué regulación existe actualmente en España? 

La regulación de la IA debe combinar Ética y Derecho. La primera identifica los valores o bienes que deben ser protegidos y sirve para evaluar críticamente la corrección de la regulación jurídica que se apruebe. Por su parte, el Derecho permite identificar con facilidad los bienes y valores éticos seleccionados y garantizar su protección eficaz. 

La principal norma jurídica sobre la IA es el Reglamento europeo de IA de 2024, que será completado y desarrollado mediante otras normas a nivel europeo y nacional. 

• ¿Qué funciones vinculadas a la ética debería asumir la Agencia Española de Supervisión de la Inteligencia Artificial, creada en junio de 2024 y que en su día fue un órgano pionero en Europa? 

La AESIA no es un órgano regulador o con funciones legislativas, pero puede y debería contribuir a garantizar un desarrollo adecuado y respetuoso con los valores y derechos en juego. 

• Parece que la IA puede venir a anular el concepto de autonomía, ¿qué opinión tiene sobre esto? 

Al igual que otras tecnologías, la IA influye en el alcance de la autonomía individual. Modificará los procesos de toma de decisiones, pues es capaz de reemplazar nuestra deliberación y nuestra elección, pero no la elimina. No obstante, conviene recordar que nuestro comportamiento no se guía siempre por decisiones deliberadas, pues parte de nuestras acciones son determinadas por factores no autónomos. En tal sentido, la IA no resulta tan novedosa, aun cuando su impacto y capacidad de condicionar dicho comportamiento son superiores a la mayoría de casos precedentes. 

• ¿Podemos hablar de factores clave en el diseño de un sistema de IA? 

Probablemente el factor clave y el momento decisivo aparecen al inicio, tanto en la decisión de desarrollar y utilizar la IA como en el de diseñarla. Los valores éticos nucleares deben ser considerados y protegidos durante todo el proceso, no solo en el momento de la aplicación o el uso, sino desde el comienzo de su diseño. Por tanto, se debe asegurar la inteligibilidad, la representatividad y la participación de todas las personas; proteger la dignidad y la autonomía; evitar las discriminaciones; garantizar la equidad y la sostenibilidad; y promover el bienestar de los individuos y las comunidades y comunitario y el interés público. 

• En el diseño de un sistema de IA, ¿es suficiente con el trabajo de los tecnólogos digitales o debe considerarse la participación de más personas clave? 

De acuerdo con lo anterior, es imprescindible la participación de personas con conocimientos éticos, sociales, jurídicos, medioambientales, económicos. La pregunta clave no es cómo desarrollar técnicamente la IA, sino para qué necesitamos o queremos la IA, y esta pregunta sobre la finalidad nos conduce a la pregunta sobre qué tipo de tecnología o qué características debe tener dicha tecnología y qué tipo de sociedad queremos establecer con su uso. 

• Desde la perspectiva ética, ¿qué es clave en el diseño de algoritmos? 

La identificación de los valores que deben ser garantizados -ya mencionados con antelación- y un desarrollo tecnológico en armonía con dichos valores. No puede haber excepciones a la protección de esos valores nucleares; en caso contrario, estaríamos promoviendo sociedades más injustas e inhumanas. 

• En el caso de personas con demencias u otros deterioros cognitivos ¿Cómo se debe gestionar el consentimiento informado en relación al uso de tecnologías en las cuales se tengan que registrar datos relacionados con las características físicas, fisiológicas o del propio comportamiento? 

De modo semejante al resto de las personas, pero teniendo presente la frecuente necesidad de apoyos personales y tecnológicos para decidir. Subsiste la obligación de promover la autonomía decisoria de estas personas y también su autonomía informativa, de modo que puedan conocer y elegir cómo se gestionan sus datos personales.  

La tecnología permite obtener, almacenar y utilizar muchos datos que revelan características personales y, en ocasiones, extremadamente sensibles. Esta circunstancia representa una ventaja en la medida en tales datos pueden mejorar la atención y la situación de dichas personas. Nuestra obligación no es rehusar su obtención, sino garantizar que su tratamiento es adecuado y éticamente correcto. 

• ¿Qué opinión le merece el concepto de paternalismo algorítmico?  

La superación del paternalismo ha sido una conquista del mundo posilustrado y continúa siendo un criterio de calidad ética de nuestras sociedades. Una confianza desmedida en las soluciones tecnológicas, que considere la IA un criterio suficiente para decidir sin considerar la perspectiva del individuo, me parece un error. 

Es cierto que diversas tareas podrán ser automatizadas y no requieren ni requerirán nuestra decisión autónoma en cada paso. Así entendidas significarán un ahorro de tiempo y esfuerzo y facilitarán que deliberemos autónomamente sobre cuestiones más complejas y relevantes. No obstante, elevar a criterio supremo e infalible el proporcionado por el algoritmo de la IA y suprimir o negar la posibilidad de la autonomía significaría un empobrecimiento. 

• Si tuviera que proponer una sola medida (jurídica, institucional o educativa) para que la IA en España evolucione de forma más ética y justa, ¿cuál sería? 

Cualquier medida alejada de la fascinación por la tecnología, en este caso la IA, y recordar la decisiva intervención humana en muchas áreas. Educación o “alfabetización” digital universal acompañada de apoyo presencial o no digital para muchas personas; es decir, que no desaparezca la atención en persona ni la intervención humana. 

• ¿Qué papel cree que debería tener la IA, en el horizonte temporal de una década, en la sociedad? 

Presumo que la IA estará implantada y normalizada en muchas áreas: Conviviremos con su existencia y su uso, como ha sucedido con otras tecnologías que superan las posibilidades humanas en otras áreas -p. ej., transporte-. Presumo, asimismo, que adoptaremos una posición más equilibrada y prudente, alejada de los extremos que la consideran, bien una amenaza integral, bien la respuesta a nuestras deficiencias y nuestros males. Presumo, finalmente, que facilitará nuestras vidas en determinados ámbitos, siempre que hayamos sido capaces de diseñarla de una manera acorde con nuestra condición humana y el modelo de sociedad al que aspiramos.