Juez llama a ‘testigo experto’ mediante chatbot con inteligencia artificial

Si necesita testigos expertos en un caso judicial, asegúrese de que no estén utilizando un chatbot de IA para su supuesta experiencia.

La semana pasada, un juez de Nueva York reprendió a un perito en un caso inmobiliario. caso de conflicto Para utilizar el chatbot de IA Copilot de Microsoft.

El perito Charles Ranson utilizó Copilot para generar una evaluación de los daños que se otorgarían a los demandantes en este caso. El incidente fue el primero reportado De Ars Technica.

Copiloto en el tribunal: mala idea

El caso central de esta historia involucró una disputa sobre una propiedad de alquiler de 485.000 dólares en las Bahamas. El propietario de la propiedad había fallecido y la propiedad estaba en un fideicomiso para el hijo del fallecido. La hermana del fallecido era la responsable de ejecutar el fideicomiso. Sin embargo, las hermanas fueron acusadas de incumplimiento de sus deberes fiduciarios al retrasar la venta mientras utilizaban la propiedad para uso personal.

El factor principal para ganar el caso del hijo fue demostrar que las acciones de su tía lo habían perjudicado.

Ranson fue llamado como testigo experto y se le asignó la tarea de evaluar estos daños.

El juez Jonathan Schopf dijo que Ranson tenía experiencia en litigios fiduciarios y patrimoniales, pero “no tenía experiencia relevante en bienes raíces”. Entonces Ranson recurrió al chatbot de inteligencia artificial Copilot de Microsoft.

Ranson parece haber dejado claro en su testimonio que sería utilizado como copiloto. Cuando se le preguntó al respecto, el Sr. Ranson no pudo recordar qué factores desencadenantes utilizó para evaluar los daños o qué fuentes citó CoPilot para llegar a su estimación. Ranson tampoco pudo explicar cómo funciona el copiloto.

Luego, el tribunal decidió utilizar Copilot para ver si arrojaba las mismas estimaciones que proporcionó Ranson. El tribunal preguntó a CoPilot: “¿Puede calcular el valor de los 250.000 dólares invertidos en el Vanguard Balanced Index Fund desde el 31 de diciembre de 2004 hasta el 31 de enero de 2021?”.

El copiloto proporcionó diferentes respuestas en tres pruebas diferentes, y cada respuesta fue diferente de la cantidad producida por el propio copiloto de Ranson.

Luego, el tribunal preguntó a CoPilot si era una fuente confiable de información, a lo que CoPilot respondió que sus resultados siempre deberían ser verificados por expertos.

El juez dijo que Ranson insistió en que las herramientas de inteligencia artificial como Copilot eran de uso estándar en la industria, pero no pudo citar una sola fuente que demostrara que esto era cierto.

El uso de un chatbot de IA por parte de Ranson no fue el único error. Sin embargo, la situación del copiloto ciertamente afectó la credibilidad del perito. El juez dictaminó que la tía no había incumplido su deber fiduciario y concluyó que las pruebas demostraban que el retraso en la venta de la propiedad no sólo no causó ninguna pérdida al hijo, sino que también generó ganancias adicionales.

No es la primera vez y probablemente no será la última.

El uso de CoPilot por parte de Ranson como fuente de información profesional no es la primera vez que se utiliza un chatbot de IA en los tribunales.

Los lectores tal vez recuerden al abogado Stephen Schwartz del año pasado. dependía de Respecto a ChatGPT en una demanda legal por un cliente de una aerolínea lesionado en un vuelo. El Sr. Schwartz fue disciplinado después de presentar una demanda citando incidentes que no existieron en absoluto. Schwartz utilizó ChatGPT en su investigación, pero el chatbot de IA simplemente inventó el caso anterior, que Schwartz incluyó en su presentación.

Como resultado, Schwartz y otro abogado de la firma donde trabajaba multado 5.000 dólares del tribunal por “actos maliciosos”.

mismo escenario Sucedió de nuevo Con otro abogado, Jae Lee, que utilizó ChatGPT en una presentación a principios de este año. Una vez más, ChatGPT provocó un incidente de alucinación inexistente.

En el caso inmobiliario de las Bahamas, el juez Schopf insistió en no culpar al chatbot de IA, sino a los usuarios que lo citaron. Pero los chatbots de IA siguen proliferando en línea, y las grandes empresas tecnológicas como Google y Microsoft promueven cada vez más esta tecnología entre sus usuarios.