Acceso Directo
El debate sobre la Inteligencia Artificial (IA) en el ámbito profesional saltó de las oficinas a los tribunales. Un reciente caso en la Justicia argentina generó un fuerte revuelo al anularse un fallo porque el juez a cargo copió y pegó respuestas generadas por ChatGPT, incluyendo frases literales de la IA como "Aquí tienes la respuesta".
Este insólito suceso se suma a la ya conocida problemática de abogados que presentaron escritos con jurisprudencia y 26 fallos que en realidad no existen.
Para entender las implicaciones de este escenario, Acceso Directo, de Ciudadano news, dialogó con Sebastián Chumbita, abogado especialista en IA, quien enfatizó que este fenómeno es una "característica propia de estos grandes modelos de lenguaje" como ChatGPT y Gemini.
Qué es la "alucinación de la IA" y por qué miente en los tribunales
El término técnico que expone la falla es la "alucinación". Chumbita explicó que estas plataformas, diseñadas para un uso comercial y general, no tienen la verdad como su objetivo primordial.
"La alucinación es una característica propia de estos grandes modelos de lenguaje que se dan en ChatGPT, Gemini y Meta," detalló Chumbita. Agregó que la IA "no tiene el objetivo de determinar qué es cierto y qué es falso, sino que responde en base a probabilidades". Es decir, la IA inventa una respuesta coherente para satisfacer la petición del usuario, y en el caso de la jurisprudencia, genera fallos ficticios si no encuentra datos reales.
Te puede interesar
El especialista subrayó que el problema central reside en la falta de verificación: "Los errores que más se ven es porque la gente no corrobora la respuesta que le está dando". En el caso del juez, la irresponsabilidad fue máxima al no revisar el texto y copiar incluso la frase de respuesta del chatbot.
Las consecuencias legales por la mala praxis con IA
El uso de contenido inventado por la IA ha puesto en una situación delicada a varios profesionales del derecho en el país. ¿Qué pasa con los abogados que presentaron escritos con fallos inexistentes?
Chumbita explicó que, hasta el momento, las consecuencias han sido variadas: "En algunos casos se ha llamado la atención, en otros casos se ha tenido por no presentada esa información". La sanción económica más común ha sido una disminución en los honorarios profesionales, una medida que afecta directamente el bolsillo del letrado.
Respecto a la relación con el cliente, el panorama es más complejo. Podría existir un reclamo por daños y perjuicios derivado de una "mala praxis", aunque esto requeriría un proceso legal de conocimiento para determinar la responsabilidad contractual.
¿La IA nos saca el trabajo? La clave está en la "alfabetización"
Más allá de los problemas en el ámbito legal, el abogado especialista abordó la preocupación general sobre el impacto de la Inteligencia Artificial en el mercado laboral y el temor al desempleo.
Chumbita afirmó que la IA es "la tecnología más disruptiva de la historia de la humanidad", pero desestimó la idea de que vaya a generar un desempleo masivo sin alternativas. "El paradigma siempre se repite: la tecnología desplaza y genera desempleo," pero al mismo tiempo, "también reconvierte a las personas".
El mensaje central del especialista es la necesidad de la "alfabetización" digital. "Si no sabés que el día de mañana esto te va a perjudicar, no vas a tener ningún arma," sentenció. Promover el uso "adecuado, estratégico y responsable" de la IA es la clave para potenciar el saber y el conocimiento humano, entendiendo que esta tecnología debe ser vista como una "inteligencia aumentada" que complementa a la inteligencia humana.
Finalmente, Chumbita invitó a "abrazar a la tecnología desde el conocimiento, sin temor y sin apuro," un mensaje que busca convertir el miedo en una oportunidad de reinventarse y adaptarse a la nueva era.