A Suprema Corte da ndia adverte contra o uso indevido de IA em documentos legais depois que uma petição citou casos falsos. India's Supreme Court warns against AI misuse in legal filings after a petition cited fake cases.

A Suprema Corte da ndia sinalizou o uso indevido da IA em documentos legais depois que uma apresentação de caso continha inúmeros casos judiciais fabricados e precedentes distorcidos. India’s Supreme Court has flagged the misuse of AI in legal filings after a case submission contained numerous fabricated court cases and distorted precedents. O erro, ligado a uma petição da Gstaad Hotels, levou o tribunal a prosseguir com o caso em seus méritos, apesar das imprecisões. The error, linked to a petition by Gstaad Hotels, prompted the court to proceed with the case on its merits despite the inaccuracies. Os defensores seniores criticaram o uso de citações falsas geradas pela IA, chamando-a de violação do dever profissional. Senior advocates criticized the use of AI-generated false citations, calling it a breach of professional duty. O tribunal enfatizou que a tecnologia não deve comprometer a verdade ou o devido processo, destacando as crescentes preocupações sobre as alucinações da IA no trabalho legal. The court emphasized that technology must not compromise truth or due process, highlighting growing concerns over AI hallucinations in legal work.