یانویو تال، بنیانگذار Geo، چهار نقطه ضعف را در اطلاعات آنلاین شناسایی کرده است که به گفته وی، پاسخهای هوش مصنوعی را غیرقابل اعتماد میکند: از بین رفتن اصالت (provenance)، یکسانسازی اقتدار، عدم توافق پنهان، و خطاهای تکراری تولید شده توسط مدل.
یانویو تال، بنیانگذار Geo، به crypto.news گفت که پاسخهای غیرقابل اعتماد هوش مصنوعی اغلب با مطالبی که مدلها دریافت میکنند، آغاز میشود، و استدلال کرد که اینترنت برای توزیع اطلاعات طراحی شده است، نه برای حفظ اقتدار، منشأ یا پاسخگویی آن.
تال گفت: «هوش مصنوعی مشکل حقیقت ندارد، اینترنت مشکل دارد.»
به گفته تال، اطلاعات با اسکرپ و بازنشر وبسایتها، زمینه حیاتی خود را از دست میدهند. یک ادعا ممکن است از چندین صفحه عبور کند تا وارد یک مجموعه آموزشی شود، و مدل را با بیانیه باقی بگذارد اما مسیری روشن برای بازگشت به منبع اصلی آن نداشته باشد.
سنجش اقتدار نیز دشوار میشود وقتی یک مقاله تحقیقاتی، اطلاعیه شرکت، و یک پست ناشناس در فروم به عنوان متن وارد یک خط لوله داده مشابه میشوند. تال گفت که مدلها ممکن است سپس مطالبی را با استانداردهای متفاوت شواهد به گونهای رفتار کنند که گویی وزن مشابهی دارند.
او گفت: «اصالت از بین میرود. یک ادعا اسکرپ، بازنویسی و دوباره اسکرپ میشود تا زمانی که منبع اصلی غیرقابل بازیابی شود.»
عدم توافق مشکل دیگری ایجاد میکند زیرا مدلهای زبانی اغلب مواضع متضاد را در یک پاسخ ترکیب میکنند. تال گفت چنین فشردهسازیای میتواند اختلافات واقعی بین کارشناسان واجد شرایط را پنهان کند و به کاربران یک پاسخ مطمئن واحد بدهد بدون اینکه نشان دهد جایگزینهای معتبری نیز وجود دارد.
ضعف چهارم زمانی پدیدار میشود که محتوای تولید شده توسط هوش مصنوعی به منبع دادهای که توسط مدلهای بعدی استفاده میشود، بازگردد. خطاها میتوانند از انتشار مکرر جان سالم به در ببرند، در حالی که مقالات، پستها و خلاصههای مصنوعی یافتن مطالب تولید شده توسط انسان را که یک ادعا از آن سرچشمه گرفته، دشوارتر میکنند.
تال گفت: «مدلها به طور فزایندهای بر روی خروجی مدلهای دیگر آموزش میبینند، بنابراین خطاها فقط باقی نمیمانند، بلکه تقویت میشوند.»
تحقیقات مستقل یک خطر مرتبط را مستند کرده است. یک مطالعه Nature در سال ۲۰۲۴ آنچه را که اتفاق میافتد وقتی مدلهای مولد به طور مکرر از مطالب تولید شده توسط مدلهای قبلی یاد میگیرند، بررسی کرد. محققان «فروپاشی مدل» را فرآیندی توصیف کردند که در آن سیستمها به تدریج اطلاعات مربوط به توزیع دادههای اصلی را از دست میدهند.
بر اساس این مقاله، مطالب کمتر رایج در مراحل اولیه آزمایشها شروع به ناپدید شدن کردند، در حالی که نسلهای بعدی مدلها توزیعهایی تولید کردند که شباهت کمی به دادههای منبع داشتند. محققان گفتند دسترسی به اطلاعات اصلی و تولید شده توسط انسان همچنان مهم است زیرا محتوای تولید شده توسط هوش مصنوعی در سراسر اینترنت گسترش مییابد.
تال چهار نقطه ضعف را به عنوان شکستهایی که به طراحی مدل محدود میشوند، طبقهبندی نمیکند. به گفته او، مدلها نقصهایی را که قبلاً در مواد آموزشیشان جاسازی شدهاند، از جمله منابع گم شده و عدم تمایز بصری بین شواهد، نظرات و تبلیغات، بازتولید میکنند.
پاسخ پیشنهادی Geo با جدا کردن یک بیانیه از نویسنده آن و شواهد پشتیبان آغاز میشود. روابط بین ورودیها میتواند نشان دهد که آیا یک استدلال از دیگری حمایت میکند، آن را نقض میکند، یا مستقیماً به یک نقطه مورد اختلاف پاسخ میدهد.
تال گفت، پس از ثبت این پیوندها، Geo میتواند استدلالها را بر اساس قدرت ارزیابی شدهشان مرتب کند در حالی که مطالب رقیب را در زیر آنها نگه میدارد. هدف از این ساختار حفظ دسترسی به عدم توافق است بدون اینکه هر مشارکت به عنوان یک فید کامنت غیرمتمایز نمایش داده شود.
تال گفت: «کثرتگرایی لازم نیست به معنای سروصدا باشد. ما فکر میکنیم چندین دیدگاه رقیب با ساختار مناسب، اغلب پاسخ صادقانهتری است.»
Geo اطلاعات را از طریق جوامع مستقلی به نام «فضاها» (Spaces) سازماندهی میکند. وبسایت فعلی آن، فضاهای اولیه را که شامل رمزنگاری، سلامت، هوش مصنوعی، آموزش، امور جهانی و سیاست ایالات متحده هستند، فهرست میکند.
اعضا میتوانند مشارکت کنند و در بحثها شرکت کنند، در حالی که افراد دارای دانش مرتبط میتوانند برای تبدیل شدن به ویرایشگر درخواست دهند. به گفته Geo، برنامه متولی آن از شرکتکنندگان میخواهد تا منابع را ارزیابی کنند، استدلالها را به هم متصل کنند، و اطلاعات ساختاریافته را به یک نمودار دانش باز اضافه کنند.
این مدل از Geo Genesis توسعه یافته است که در ژانویه ۲۰۲۵ به دسترسی اولیه رسید. همانطور که قبلاً گزارش شده بود، ساختار حکمرانی پیشفرض آن شرکتکنندگان را به «ویرایشگران» (Editors) و «اعضا» (Members) تقسیم میکرد. ویرایشگران دارای حق رأی بودند، در حالی که اعضا میتوانستند اطلاعات را به فضاهای فردی کمک کنند.
Geo Genesis که بر پایه چارچوب حکمرانی Aragon OSx ساخته شده بود، پس از انتشار GRC-20، استانداردی برای نمایش دانش مرتبط، منتشر شد. دِ گراف در ژوئن ۲۰۲۵ اعلام کرد که GRC-20 میتواند به جوامع اجازه دهد اطلاعات ساختاریافته را به صورت آنچین منتشر کرده و از طریق سابگرافها و ساباستریمها بازیابی کنند.
تال، که پیش از تأسیس Geo یکی از بنیانگذاران دِ گراف بود، گفت که تحت سیستم پیشنهادی، تخصص توسط یک نهاد مرکزی اختصاص داده نخواهد شد. مشارکتکنندگان از طریق کار خود اعتبار کسب خواهند کرد، و Geo قصد دارد که این سابقه یک فرد را بین فضاها دنبال کند.
«قضاوت انسانی اکنون ورودی کمیاب است، نه اضافی. ماشینها محتوای بیشتری از آنچه انسانها میتوانند پردازش کنند تولید میکنند، و تقریباً هیچکدام از آنها مسئولیت حقیقت آن را بر عهده ندارند.»
یک شبکه دانش انسانی باید همچنان تعیین کند که آیا مشارکتکنندگان واقعی، واجد شرایط و مستقل هستند یا خیر. سیستمهای حکمرانی باز میتوانند با حملات سیبیل (Sybil attacks) مواجه شوند، که در آن یک شرکتکننده هویتهای متعددی را ایجاد میکند تا بر رأیگیری، رتبهبندی یا پاداشها تأثیر بگذارد.
یک توضیحدهنده در ژوئن ۲۰۲۶ بررسی کرد که چگونه بررسیهای بیومتریک، شبکههای اعتماد اجتماعی و ابزارهای هویت دانش صفر تلاش میکنند افراد منحصربهفرد را تأیید کنند. هر روش شامل بدهبستانهایی بین حریم خصوصی، مقاومت در برابر حمله، دسترسیپذیری و کنترل است، در حالی که هوش مصنوعی میتواند به مهاجمان کمک کند تا شخصیتهای متقاعدکننده را با هزینه کم ایجاد کنند.
تال گفت Geo به سوابق مشارکت و جوامع خاص دامنه متکی خواهد بود، به جای اینکه اجازه دهد مطالب ناشناس همان وضعیتی را داشته باشند که ادعاهای متصل به افراد دارای تاریخچه عمومی دارند. ویرایشگران از طریق فضاهای فردی درخواست خواهند داد، و اعضا در حکمرانی موضوعاتی که دنبال میکنند، شرکت خواهند کرد.
تال گفت: «"پوست در بازی" بدون منافع مالی، کیفیت آنچه مردم مایلند نام خود را به آن بدهند، تغییر میدهد.»
این رویکرد نیاز به تصمیمگیری در مورد اینکه چه کسی ویرایشگران را انتخاب میکند، چگونه جوامع دستکاری هماهنگ را حل میکنند، یا اینکه آیا تخصص کسب شده در یک موضوع باید در موضوع دیگری وزن داشته باشد را از بین نمیبرد. تال مسئله نگهبان را واقعی توصیف کرد اما استدلال کرد که فضاهای مستقل مانع از کنترل یک نهاد بر هر زمینهای میشوند.
مشارکت انسانی در امنیت رمزنگاری نیز مورد توجه قرار گرفته است، جایی که ابزارهای خودکار ممکن است فعالیت مخرب را شناسایی کنند، اما کاربران همچنان تراکنشها را تأیید میکنند. در می ۲۰۲۶، یک گزارش امنیتی لجر، تأیید دستی و نمایش واضح تراکنشها را به عنوان محافظی در برابر فیشینگ با کمک هوش مصنوعی، رابطهای جعلی و کلاهبرداریهای خودکار توصیف کرد.
تال گفت، رمزنگاری یکی از اولین فضاهای Geo است زیرا فعالیت بلاکچین یک آزمایش مستقیم برای تفاوت بین سوابق قابل تأیید و تفسیر انسانی ارائه میدهد.
یک بلاکچین میتواند تأیید کند که یک تراکنش در یک آدرس و بلوک ثبت شده رخ داده است. اما بدون شواهد اضافی، نمیتواند تعیین کند که چه کسی آدرس را کنترل میکند، چرا وجوه منتقل شدهاند، آیا فعالیت ارگانیک بوده است یا پروژه در آینده چه برنامهای دارد.
تال گفت: «دادههای آنچین ذاتاً قابل تأیید هستند. یک تراکنش اتفاق افتاده است یا نه. هر چیزی که آن را احاطه کرده است، ادعا است.»
بنابراین، اطلاعیههای پروژه، توضیحات مشارکت، پیشبینیهای بازار و توضیحات حرکت توکنها، به گفته تال، نیاز به رفتار جداگانه دارند. Geo قصد دارد چنین ادعاهایی را به مشارکتکنندگان نامگذاری شده پیوست کند و سوابق آنها، از جمله اظهارات قبلی که نادرست از آب درآمدند، را حفظ کند.
فعالیتهای تبلیغاتی این تمایز را به ویژه در بازارهای داراییهای دیجیتال مهم میکند، جایی که تیمها ممکن است معیارهای منتخب را در کنار دادههای تراکنش قابل تأیید ارائه دهند. تال گفت یک لایه دانش قابل اعتماد باید دستهها را برچسبگذاری کند تا اینکه هر دو را با یک لحن مشابه ارائه دهد.
برای توسعهدهندگان و شرکتهای آمریکایی که هوش مصنوعی مولد را مستقر میکنند، مؤسسه ملی استاندارد و فناوری (NIST) چندین کنترل را توصیه کرده است که با بخشهایی از استدلال تال همپوشانی دارد.
نمایه هوش مصنوعی مولد NIST، که در جولای ۲۰۲۴ منتشر شد، به سازمانها توصیه میکند که منابع داده آموزشی را مستند کنند، منشأ مواد تولید شده را نظارت کنند، و بازخورد بین سیستمهای اصالت و بازبینان انسانی را ارزیابی کنند. این چارچوب داوطلبانه همچنین خواستار مشارکت کارشناسان حوزه و جوامع آسیبدیده در ارزیابیهای خاص است.
استانداردهای اصالت محتوا روش دیگری برای ثبت منشأ مواد دیجیتال ارائه میدهند. ائتلاف برای اصالت و منشأ محتوا (C2PA) از اعتبارنامههای محتوای امضا شده رمزنگاریشده (cryptographically signed Content Credentials) برای حفظ اطلاعات مربوط به اینکه چه کسی یک دارایی را ایجاد یا تغییر داده و چگونه ویرایش شده است، استفاده میکند.
با این حال، طبق مشخصات C2PA، اصالت تأیید شده تعیین نمیکند که آیا یک ادعای پیوست شده خوب، بد یا واقعی است. این استاندارد تأیید میکند که ادعاها به دارایی اصلی متصل هستند، به درستی شکل گرفتهاند، و از دستکاری عاری هستند.
