Cuando la Tecnología se Encuentra con la Negligencia Legal: Un Patrón Emergente
La integración de la inteligencia artificial (IA) en diversas profesiones ha sido una constante en los últimos años, y el ámbito jurídico no ha sido la excepción. De hecho, la abogacía fue una de las primeras esferas en adoptar el uso de la IA generativa mucho antes del auge de modelos como ChatGPT. Sin embargo, esta adopción temprana no siempre ha venido acompañada de la debida diligencia.
Ya hemos sido testigos de casos de abogados sancionados por incluir citas falsas generadas por estas herramientas, un claro indicio de la falta de verificación humana. Estos incidentes, lejos de disuadir a otros, parecían ser la punta del iceberg de una problemática más profunda: la confianza ciega en la tecnología sin el rigor profesional que exige el derecho. La principal debilidad de los Modelos de Lenguaje Grandes (LLM), conocidas como “alucinaciones”, donde la IA prioriza dar una respuesta sobre su precisión, ha sido un talón de Aquiles bien documentado. Este contexto sentaba las bases para situaciones aún más complejas, donde la IA, mal utilizada, podría socavar los pilares del sistema judicial.
En un entorno donde incluso informes de alto perfil, como el retirado por KPMG, han mostrado graves alucinaciones y falsedades generadas por IA, la expectación sobre cómo el sector legal gestionaría esta herramienta era alta. La línea entre la innovación y la irresponsabilidad se ha vuelto peligrosamente delgada, llevando a consecuencias que están empezando a dibujar un nuevo panorama de responsabilidades profesionales.
Un Doble Traspié Legal: Cuando Ambas Partes Citan lo Inexistente
El punto de inflexión más reciente y llamativo se ha producido en Mississippi, Estados Unidos. El caso giraba en torno al abogado Tom Withers, quien demandaba a la ciudad de Aberdeen por honorarios legales impagados. Lo que parecía un litigio civil rutinario tomó un giro inesperado cuando la jueza Sharion Aycock detectó anomalías graves en los escritos presentados por ambas partes: tanto la acusación como la defensa habían citado casos judiciales que, simplemente, no existían.
Según lo reportado por 404media, este hecho evidenció que ambos equipos legales habían utilizado IA sin la más mínima verificación. La reacción de la jueza Aycock fue contundente y sin precedentes. No solo ordenó la suspensión inmediata del juicio, sino que también tomó medidas drásticas contra los implicados:
- Inhabilitación por dos años para comparecer ante su tribunal a dos de los cuatro abogados implicados.
- Multas económicas que oscilaron entre los 1.000 y 3.500 dólares para todos los abogados involucrados.
Este incidente subraya una tendencia preocupante. Como señaló el abogado Rob Freund en X, se había llegado a una situación en la que “dos clientes estaban pagando básicamente para que ChatGPT discutiera consigo mismo”.
Esta problemática no es exclusiva de Estados Unidos. En España, los precedentes también comienzan a acumularse:
- El Tribunal Superior de Justicia de Galicia abrió una investigación contra un abogado por “mala fe procesal”, tras descubrirse que su recurso contenía nada menos que 24 citas jurisprudenciales falsas.
- A principios de año, un abogado en Canarias fue multado con 420 euros por citar 48 sentencias inexistentes, también sugeridas por una IA.
Estos casos resaltan que el problema no radica en la utilización de la IA per se, sino en la ausencia crítica de verificación humana. Las alucinaciones son un riesgo conocido de estas tecnologías, y la responsabilidad profesional exige no asumirlas sin cotejo.
El Imperativo de la Verificación Humana en la Era de la IA Legal
El impacto de estos eventos en el sector legal es profundo y multifacético. La confianza en el sistema judicial depende intrínsecamente de la veracidad y la solidez de los argumentos presentados. Cuando la IA produce