Sucesos contemporáneos · Microensayo
Inteligencia artificial, robots éticos y ciberderecho: las máquinas inhumanas
Desde Dartmouth (1956) hasta las redes neuronales y la justicia en línea: lo que la máquina puede calcular y lo que nunca podrá sentir. Una reflexión sobre los límites de la inteligencia artificial y su entrada en el Derecho.
Por Juan B. Lorenzo de Membiela · Doctor en Derecho por la Universidad de Valencia · Microensayo
Representación de la inteligencia artificial. Fuente: Pixabay (licencia CC0).
El texto recorre la evolución de la inteligencia artificial desde las jornadas de Dartmouth de 1956 hasta el aprendizaje automático, los robots éticos y las redes neuronales, y contrapone la inteligencia computacional, construida solo sobre datos, a una inteligencia humana pluridimensional, hecha también de emociones, memoria y experiencia.
Examina su llegada al Derecho, con la resolución de litigios en línea y la ciberjusticia, y concluye, con Joseph Weizenbaum, que las máquinas no deben tomar decisiones vitales, porque nunca tendrán compasión ni sabiduría: la equidad, la epiqueya y la idea de lo justo no caben en un algoritmo.
I. Los orígenes: Dartmouth, 1956
John McCarthy, del Dartmouth College (Nuevo Hampshire, EE. UU.), junto a Marvin L. Minsky, de la Universidad de Harvard; Nathaniel Rochester, de la corporación IBM, y Claude E. Shannon, de los Laboratorios Bell Telephone, organizaron en el verano de 1956 unas jornadas para estudiar la hipótesis de fabricar máquinas que emularan el aprendizaje y la inteligencia humana1.
De aquellos comienzos hasta hoy mucho ha evolucionado el concepto de inteligencia artificial, pero también el de inteligencia humana. Tanto que quizá lo que en un origen se concibió como aprendizaje y razonamiento hoy solo sean aspectos residuales de un concepto de inteligencia más amplio, más complejo y, sobre todo, pluridimensional, en cuanto se extiende también a las emociones.
De aquellas computadoras iniciales, muy limitadas en almacenamiento y procesamiento de datos, a las actuales ha transcurrido un largo proceso de evolución: más capacidad y rapidez en la gestión de datos y tamaños más reducidos. Programas más sofisticados han facilitado un trabajo humano que, no hace muchos años, estaba anclado en máquinas de escribir y archivos de papel con calco para las copias.
II. Inteligencia humana e inteligencia computacional
La informática ha evolucionado en su dimensión cuantitativa: más velocidad, más capacidad de procesamiento, más manejabilidad. Es un avance lineal no siempre acompañado por un diseño de herramientas ofimáticas intuitivas, accesibles y asequibles, lo que resta brillantez a lo que se supone que son herramientas que facilitan el trabajo. No es un error de la computación, sino del diseñador del programa, que no ha sabido captar la problemática del usuario no solo en su aspecto mecánico, sino también en el personal y en su necesidad de efectividad laboral. En este punto, la informática no ha sabido superar las leyes de Parkinson (Parkinson, 1964: 16) y, con ello, el dilema de si los programas facilitan o entorpecen el trabajo.
Pero la informática también ha evolucionado en su aspecto cualitativo. Se pretende que las máquinas realicen actividades más complejas: autoaprendizaje y resolución de problemas.
Éric Sadin (2017: 116) afirma que en modo alguno la inteligencia computacional se parece a la inteligencia humana, debido a nuestra estructura cerebral2. Si la inteligencia humana está sujeta al tiempo de vida, la artificial está destinada a crecer y enriquecerse indefinidamente, si así está programada. Este factor es importante y suele olvidarse.
Lo que caracteriza a la IA es que su relación con el mundo se construye exclusivamente sobre datos, sin las demás circunstancias que suelen concurrir. Procesa cantidades ingentes de datos presentes, algo imposible para el ser humano, pero desconoce el pasado, y esto resta precisión a sus resultados. La retrospectiva también es un procedimiento analítico y, muchas veces, lo que fue ofrece soluciones para un futuro desconocido.
Hay otra carencia en la IA: la reflexión, que no solo opera sobre datos, sino también sobre percepciones, recuerdos, emociones y experiencias vividas.
III. Robots éticos, aprendizaje automático y redes neuronales
Una de las últimas aplicaciones de la IA es el desarrollo de robots éticos. Se quiere excluir las emociones, como el miedo o la ira, para evitar la debilidad ética de las personas. ¿Se trata de una humanización de la máquina? Lo sería si pensáramos que las emociones son algo superfluo; sin embargo, son inherentes a la condición humana, y lo emotivo integra su inteligencia.
En la actualidad se trabaja en procesadores con capacidad de autoaprendizaje: son las llamadas computadoras cognitivas o machine learning (aprendizaje automático). Se trata de unir los estudios sobre informática y sobre el cerebro, aplicando los conocimientos de este último a los sistemas de programación. El objetivo es una digitalización del pensamiento humano: reducir sus procesos a una serie de normas lógicas o de algoritmos que puedan procesar las máquinas. El proyecto europeo que lo abordó se llamó Human Brain Project y abarcaba disciplinas como la biología, la informática y la medicina.
Redes y conexiones digitales. Fuente: Pixabay (licencia CC0).
Otras aplicaciones del machine learning:
- El coche autónomo. Los ingenieros desarrollan algoritmos de deep learning (aprendizaje profundo), un subconjunto del machine learning en el que prima la idea del aprendizaje a partir de ejemplos.
- El control del contenido falso, fraudulento o impreciso en las redes sociales.
- La lucha contra los ciberataques y el cibercrimen en general, mediante algoritmos de aprendizaje automático.
Las redes neuronales también son inteligencia artificial. Consisten en modelos matemáticos que buscan replicar el comportamiento de las neuronas en la naturaleza, organizando su estructura a imitación del cerebro. Si en el cerebro cohabitan unos 100 000 millones de neuronas, se comprende que sea una tecnología avanzada y extraordinariamente ambiciosa. Se beneficiará de la computación cuántica, en la que el bit será sustituido por el cúbit. IBM afirmaba ya en 2018 disponer de este tipo de ordenadores.
IV. El Derecho ante la inteligencia artificial
Pero no solo en el ámbito científico encuentra la IA dianas de aplicación: el Derecho también es objeto de análisis. En Inglaterra está operativo el sistema Online Dispute Resolution (ODR) para resolver controversias jurídicas entre compradores y vendedores, similar a otro de la Unión Europea extensivo a Noruega, Islandia y Liechtenstein3.
La conexión de estos sistemas con conflictos jurídicos más complejos fue una de las líneas de investigación tratadas en Liverpool los días 27 y 28 de junio de 20184. Incluía el análisis de los contratos inteligentes para abogados, árbitros y mediadores. También la ética en el diseño de los programas es un aspecto prioritario, sin olvidar la accesibilidad y la facilidad de uso: se trata de analizar una relación de doble vía entre el hombre y la máquina, con un usuario consciente de la finalidad de la computadora y una computadora diseñada para facilitar las tareas de un modo confortable, en toda la extensión de esta palabra y con todo lo que ello implica desde el diseño de las aplicaciones.
Las universidades de Montreal y McGill, en Canadá, han creado un espacio de investigación llamado Laboratorio de Ciberjusticia, en el que se debaten nuevas tecnologías de comunicación y de datos para agilizar los procesos judiciales.
El retraso en el dictado de resoluciones judiciales se debe a la acción del hombre, a la complejidad de la justicia y a sus procedimientos. Además, existen sesgos culturales muy asimilados, como el uso del papel y la presencia física de todos los intervinientes en el acto del juicio. Como vemos, en todos los países concurren situaciones muy parecidas. Hay otros aspectos jurídicos más complejos que dudo que puedan codificarse en algoritmos: los principios generales del Derecho, la equidad, la epiqueya, la idea de lo justo, el Derecho natural…
V. La advertencia de Weizenbaum
Pero estas innovaciones, aunque plausibles, no deben seducirnos. Hay que recordar a uno de los precursores de la inteligencia artificial, el doctor Joseph Weizenbaum, del Instituto Tecnológico de Massachusetts (MIT), considerado por algunos el Albert Einstein de la informática. Después de diseñar y construir, entre 1964 y 1966, un programa de inteligencia artificial que simulaba conversar con personas (ELIZA), contempló asombrado la adicción que provocaba. De promotor de la IA pasó a ser un crítico extremo5.
Pedía que se evitara que las máquinas tomaran decisiones importantes o vitales, porque nunca tendrán cualidades humanas como la compasión y la sabiduría, al no haber crecido en el entorno emocional de una familia humana.
Otra cosa que hoy cabe plantearse es qué sabiduría o compasión puede existir en sociedades sumidas en el escepticismo vital.
Nota de actualización (2026)
Este microensayo se escribió en mayo de 2018. Desde entonces, la Unión Europea ha aprobado el Reglamento (UE) 2024/1689, de 13 de junio de 2024, de inteligencia artificial, de aplicación escalonada, que califica como de alto riesgo los sistemas de IA destinados a la administración de justicia (anexo III). En España, el Real Decreto-ley 6/2023 reguló las actuaciones judiciales automatizadas, proactivas y asistidas. Por su parte, la plataforma europea de resolución de litigios en línea fue suprimida por el Reglamento (UE) 2024/3228 y dejó de funcionar en julio de 2025.
La pregunta de Weizenbaum sigue abierta: qué decisiones no deben delegarse nunca en una máquina.
Notas
- McCarthy, J., Minsky, M. L., Rochester, N. y Shannon, C. E. (1955): A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence, Hanover (Nuevo Hampshire): Dartmouth College. ↩
- Sadin, É. (2017): La humanidad aumentada. La administración digital del mundo, Buenos Aires: Caja Negra. ↩
- Plataforma europea de resolución de litigios en línea, creada por el Reglamento (UE) n.º 524/2013: ec.europa.eu/consumers/odr [consulta: mayo de 2018]. Suprimida por el Reglamento (UE) 2024/3228. ↩
- International Association for Artificial Intelligence and Law (IAAIL): www.iaail.org [consulta: mayo de 2018]. ↩
- Weizenbaum, J. (1976): Computer Power and Human Reason: From Judgment to Calculation, San Francisco: W. H. Freeman. ↩
Para seguir leyendo
- Parkinson, C. N. (1964): La ley de Parkinson.
- Sadin, É. (2017): La humanidad aumentada. La administración digital del mundo, Buenos Aires: Caja Negra.
- Weizenbaum, J. (1976): Computer Power and Human Reason, San Francisco: W. H. Freeman.
- Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, de inteligencia artificial, en EUR-Lex.
Publicado primero en este blog el 10 de mayo de 2018; revisado y actualizado el 21 de octubre de 2026. Imágenes: Pixabay (licencia CC0, libre de derechos).
