En la era de la transformación digital, en la que la inteligencia artificial (IA) se integra cada vez más en nuestra vida cotidiana, la cuestión de la responsabilidad ética es cada vez más importante. El Estado Libre de Sajonia planea asumir un papel pionero en la regulación ética de estas tecnologías con un consejo consultivo público de ética de la IA. Se creará en la próxima legislatura. La Secretaria de Estado, la Dra. Gesine Märtens, y Mirko Paul, de SAP, subrayaron la importancia de la confianza y la protección de datos en el tratamiento de la IA en el III Congreso de IA de Chemnitz. El consejo asesor de ética previsto pretende actuar como organismo público y reforzar la confianza en las tecnologías de IA.
Objetivos del consejo asesor de ética en la administración sajona
Un objetivo particular del consejo asesor de ética será integrar las tecnologías de IA en la administración sajona de la mejor manera posible y transparente. Esto debería ayudar a facilitar la vida de los ciudadanos haciendo que los procesos administrativos sean más eficientes, accesibles y fáciles de usar. Al integrar la IA en los servicios públicos, se puede mejorar la calidad de la interacción con los ciudadanos y optimizar la acción administrativa sin descuidar el componente humano y la protección de los datos personales.
Límites de la IA: el ejemplo de la clase escolar
El Dr. Märtens ofreció un ejemplo sorprendente que subraya la necesidad de un control ético con la historia de una clase escolar de Leipzig que tuvo que volar de forma imprevista de Israel a Chipre debido a los acontecimientos en torno al 7 de octubre de 2023. Cuando la tarjeta de crédito del profesor alcanzó su límite, el aumento automático del límite habría tardado 24 horas, un tiempo de espera que habría sido crítico en esta emergencia. Este ejemplo demuestra que, aunque los sistemas de IA son eficientes, no pueden reaccionar con la suficiente flexibilidad en determinadas situaciones como para sustituir al criterio humano. El consejo asesor de ética debe considerar estos casos y elaborar directrices que permitan dar prioridad a la intervención humana en caso de duda.
