در ماه‌های اخیر، صدها وکیل در سراسر جهان با بحران جدی مواجه شده‌اند؛ زیرا برخی از اسناد حقوقی ارائه‌شده به دادگاه‌ها شامل منابع و نقل‌قول‌های ساختگی بوده‌اند که توسط ابزارهای هوش مصنوعی تولید شده‌اند. این پدیده، به گفته کارشناسان، زنگ خطری برای حرفه وکالت و اعتماد عمومی به نظام قضایی است.
به گزارش پایگاه خبری ـ تحلیلی تبصره گیل به نقل از دیجیتال‌ترندز، دادگاه‌ها در کشورهای مختلف از جمله ایالات متحده با موجی از پرونده‌ها روبه‌رو شده‌اند که در آن‌ها وکلا ناخواسته از منابع ساختگی ایجادشده توسط هوش مصنوعی استفاده کرده‌اند.
بر اساس بررسی «دِیمیَن شارلوتَن»، دانشمند داده و وکیل فرانسوی، تنها در شش ماه گذشته دست‌کم ۴۹۰ سند دادگاهی حاوی اطلاعات جعلی از سوی هوش مصنوعی ثبت شده است.
در یکی از موارد جنجالی، وکیل شرکت MyPillow گزارشی به دادگاه ارائه داد که حاوی نزدیک به ۳۰ منبع ساختگی بود. همین موضوع سبب شد قاضی پرونده وی را جریمه و به استفاده بی‌احتیاط از فناوری‌های هوشمند متهم کند.
شارلوتن هشدار داده است: «هوش مصنوعی می‌تواند ابزار مفیدی باشد، اما حتی افراد باتجربه نیز ممکن است فریب پاسخ‌های باورپذیر اما نادرست آن را بخورند. این مسئله خطری جدی برای شرکت‌ها و مؤسسات حقوقی است که بدون راستی‌آزمایی، به نتایج هوش مصنوعی اعتماد می‌کنند.»
به گزارش آسوشیتدپرس، ماریا فلین مدیرعامل سازمان Jobs for the Future نیز تأکید کرده است: «با هوش مصنوعی مانند یک دستیار رفتار کنید، نه جایگزین. هنوز انسان باید در چرخه بماند تا واقعیت‌ها را بررسی و از نقض حریم خصوصی یا افشای اطلاعات محرمانه جلوگیری کند.»
کارشناسان معتقدند که استفاده از هوش مصنوعی در حرفه‌های حقوقی باید با آموزش دقیق همراه باشد تا وکلا بدانند چگونه خروجی‌های این ابزار را ارزیابی کرده و از بروز اشتباهات پرهزینه جلوگیری کنند. آینده، نه متعلق به ماشین‌ها، بلکه به انسان‌هایی است که بلدند از هوش مصنوعی به‌درستی و مسئولانه استفاده کنند.