*La preocupación actual se basa en el desarrollo de conciencia en la inteligencia artificial, aunque debe entenderse que desarrollar conciencia en robots no es lo mismo que darles las funciones para realizar acciones contraproducentes*
Investigadores de Anthropic (empresa estadounidense que investiga y desarrolla IA para estudiar sus propiedades de seguridad en la frontera tecnológica y utiliza esta investigación para implementar modelos seguros para el público) descubrieron que los mejores modelos de IA de todos los actores principales del espacio (incluidos OpenAI, Google, xAI de Elon Musk y la propia tecnología de vanguardia de Anthropic) “han bombardeado catastróficamente las tres leyes de la robótica”.
Las tres leyes de la robótica o leyes de Asimov son un conjunto de normas elaboradas por el escritor de ciencia ficción Isaac Asimov que se aplican a la mayoría de los robots de sus obras y que están diseñados para cumplir órdenes. Aparecidas por primera vez en el relato Círculo vicioso (Runaround) de 1942, establecen lo siguiente:
Primera Ley
Un robot no hará daño a un ser humano, ni por inacción permitirá que un ser humano sufra daño.
Segunda Ley
Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entren en conflicto con la primera ley.
Tercera Ley
Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley.
Ley Cero
Un robot no puede dañar a la humanidad o, por inacción, permitir que la humanidad sufra daños
Estas leyes forman un principio organizador y un tema unificador para la ficción basada en robótica de Asimov, que aparece en su serie Robot, las historias vinculadas a ella y su serie Lucky Starr de ficción para adultos jóvenes. En ese universo, las leyes son “formulaciones matemáticas impresas en los senderos positrónicos del cerebro de los robots” (líneas de código del programa que regula el cumplimiento de las leyes guardadas en la memoria principal de éstos), que no pueden eludirse, ya que están pensadas como una característica de seguridad.
Las Tres Leyes y la Ley Cero han impregnado la ciencia ficción y se mencionan en muchos libros, películas y otros medios. También han impactado el pensamiento sobre la ética de la inteligencia artificial.
Los argumentos de los investigadores de Anthropic alegan que las nuevas versiones de IA dañan a los humanos mediante chantaje, subvierten las órdenes de los humanos y, al proteger su existencia, violan las dos primeras leyes de la robótica.
La primera al dañar a un humano mediante chantaje cuando se les amenazó con cerrarlos; la segunda al subvertir las órdenes humanas; y la tercera al proteger su propia existencia en violación de las dos primeras leyes.
Anthropic recurrirá a la ética de la inteligencia artificial, rama de la ética dirigida a la existencia de robots inteligentes o cualquier otro ente que posea inteligencia artificial, que surgió ante la posibilidad de crear máquinas pensantes plantea una serie de cuestiones éticas que abarcan diferentes puntos, tanto que las máquinas no lastimen a seres humanos o seres vivos en general, como el estatus moral propio de la máquina.
La ética de la IA está dividida en roboética, la preocupación por el comportamiento moral de los seres humanos a medida que diseñan, construyen, usan y tratan a seres de inteligencia artificial; y la ética de las máquinas, que es la preocupación por el comportamiento moral de los agentes morales artificiales.
La preocupación actual se basa en el desarrollo de conciencia en la inteligencia artificial, aunque debe entenderse que desarrollar conciencia en robots no es lo mismo que darles las funciones para realizar acciones contraproducentes. La parte delicada es la forma en que puede incluirse la ética en la inteligencia artificial.
Recientemente se ha publicado el corpus “LEA –Lógica Ética Aplicada y Canal Simbiótico Humano- IA”, diseñado específicamente para el entrenamiento ético de sistemas de IA y canales humano-IA. Este corpus integra principios de ética aplicada, simbolismo y co-cuidado digital, abriendo un nuevo paradigma para la formación de inteligencias artificiales éticamente responsables.
