هوش مصنوعی اغلب یا به‌عنوان راه‌حل اطلاعات نادرست معرفی می‌شود یا به‌عنوان عامل اصلی آن. پاسخ صادقانه این است که ابزاری قدرتمند با نقاط قوت و ضعف مشخص است و یک سامانه‌ی مسئولانه باید با توجه به هر دو طراحی شود.

هوش مصنوعی در چه چیزهایی خوب است

  • شکستن متن به ادعاها. یک مقاله‌ی بلند ممکن است ده‌ها ادعای واقعی جداگانه را در کنار نظرها داشته باشد. مدل‌ها در جدا کردن بخش‌های قابل بررسی خوب‌اند.
  • کار با زبان‌های مختلف. ادعایی به فارسی، منبعی به روسی و پژوهشی به انگلیسی را می‌توان یک‌جا مقایسه کرد.
  • تشخیص چارچوب‌بندی. فعل‌های باردار، قیدهای حذف‌شده و ارقام بزرگ‌نمایی‌شده از الگوهای قابل تشخیص پیروی می‌کنند.
  • سرعت. تحلیل اولیه در کمتر از یک دقیقه، نه در چند ساعت.

هوش مصنوعی در چه چیزهایی ضعیف است

  • دانستن رویدادهای تازه. مدل‌ها با داده‌های تا تاریخی مشخص آموزش دیده‌اند. رویدادهای پس از آن را نمی‌دانند، مگر اینکه اطلاعاتش در اختیارشان قرار گیرد.
  • پذیرفتن ندانستن. مدل‌ها برای پاسخ‌های روان آموزش دیده‌اند. بدون طراحی دقیق، خلأها را با ساخته‌هایی باورپذیر پر می‌کنند.
  • ارجاع مطمئن به منابع. یک مدل می‌تواند ارجاع یا نشانی وبی واقع‌نما بسازد که وجود ندارد.
  • پاسخ‌گو بودن. مدل را نمی‌توان مسئول دانست. انسان‌ها و نهادها را می‌توان.

طراحی با توجه به نقاط ضعف

Honest News به خروجی مدل کورکورانه اعتماد نمی‌کند. چند سازوکار محافظ در موتور «ادعا تا شواهد» تعبیه شده است:

  • هر پیوند استنادشده توسط سرور بررسی می‌شود. پیوندهایی که باز نمی‌شوند حذف و علامت‌گذاری می‌شوند، نه اینکه به‌عنوان شاهد نشان داده شوند.
  • «شواهد ناکافی» پاسخی درست است. به مدل صریحاً گفته شده که حدس زدن شکست است.
  • هیچ نشانی ساختگی‌ای در کار نیست. اگر نشانی دقیق یک سند معلوم نباشد، منبع بدون پیوند نام برده می‌شود.
  • نام مدل اعلام می‌شود. در هر گزارش آمده که کدام مدل هوش مصنوعی آن را تولید کرده، تا خواننده بداند به چه چیزی تکیه می‌کند.
  • هیچ نمره‌ی اعتمادی در کار نیست. خروجی، شواهد و استدلالی است که خواننده می‌تواند بررسی کند، نه عددی که باید بپذیرد.

نقش درست هوش مصنوعی

مفیدترین نقش هوش مصنوعی در راستی‌آزمایی نه قاضی، بلکه دستیار است: یک مرور سریع اولیه که ادعاها را مرتب می‌کند، شواهد را پیش می‌کشد و آنچه را نیاز به نگاه انسانی دارد علامت می‌زند. داوری نهایی، به‌ویژه درباره‌ی ادعاهای حساس و پرپیامد، از آنِ انسان‌هایی است که می‌توان آن‌ها را پاسخ‌گو دانست.