هوش مصنوعی نمیتواند مسئولیت معاملات زیانده را بر عهده بگیرد، مسئولیت از طریق واگذاری دنبال میشود: مدیرعامل Brickken
هوش مصنوعی نمیتواند مسئولیت معاملات زیانده را بر عهده بگیرد، مسئولیت از طریق واگذاری دنبال میشود: مدیرعامل Brickken
عاملهای هوش مصنوعی نمیتوانند وظایف قانونی را بر عهده بگیرند، زیرا قانون فعلی آنها را بهعنوان اشخاص حقوقی به رسمیت نمیشناسد. ماتا گفت اصولاً زمانی که عاملها در چارچوب یک اختیارِ مجاز عمل میکنند، کارفرمایان/اصیلها معمولاً مسئول پیامدها هستند. ERC-8226 محدودیتهای زمانی، سقفهای مالی، کنترلهای لغو و سوابق قابلراستیآزمایی را برای عاملهای هوش مصنوعی پیشنهاد میکند. قوانین اوراق بهادار ایالات متحده نیز از پیش ایجاب میکنند که کارگزار-معاملهگران سامانههای خودکاری را که به بازارهای تحت نظارت دسترسی دارند، کنترل کنند.
عوامل هوش مصنوعی شروع به انجام معاملات و جابجایی وجوه بدون تأیید مداوم انسان کردهاند، که این امر Edwin Mata، مدیرعامل Brickken را بر آن داشته تا استدلال کند که مسئولیت باید به اختیاراتی که به نرمافزار داده شده است، تعلق گیرد و نه به خود هوش مصنوعی.
خلاصه
عوامل هوش مصنوعی نمیتوانند وظایف قانونی را بر عهده بگیرند زیرا قوانین فعلی آنها را به عنوان اشخاص حقوقی به رسمیت نمیشناسد.
ماتا اظهار داشت که معمولاً کارفرمایان (اصیلها) نتایج را بر عهده میگیرند، زمانی که عوامل در چارچوب یک مأموریت مجاز عمل میکنند.
استاندارد ERC-8226 محدودیتهای زمانی، سقفهای مالی، کنترلهای لغو و سوابق قابل تأیید را برای عوامل هوش مصنوعی پیشنهاد میکند.
قوانین اوراق بهادار ایالات متحده از قبل کارگزاران-معاملهگران را ملزم میکند تا سیستمهای خودکار دسترسی به بازارهای تنظیمشده را کنترل کنند.
سندمارک در ۶ اوت گزارش داد که قوانین موجود هیچ پاسخ واحدی برای خسارات ناشی از عوامل مالی خودکار ارائه نمیدهند و دادگاهها را به بررسی کاربر، توسعهدهنده، پلتفرم و نهاد درگیر در هر تراکنش وامیدارد.
این گزارش بیان کرد که قانون قرارداد، قوانین سهلانگاری، مسئولیت محصول و وظایف امانتداری، همگی میتوانند اعمال شوند، بسته به اینکه چه کسی عامل را کنترل میکرده و چه چیزی باعث خسارت شده است. یک کاربر ممکن است نتیجه یک معامله مجاز را بر عهده بگیرد، در حالی که یک توسعهدهنده یا پلتفرم میتواند در صورت طراحی معیوب، تدابیر امنیتی ضعیف یا اطلاعات فاسد که عامل را از نقش مورد نظر خود خارج کرده، با ادعاهایی مواجه شود.
در خصوص این مسئله، ادوین ماتا، وکیل و مدیرعامل و همبنیانگذار پلتفرم توکنسازی Brickken، به crypto.news گفت که مسئولیت هرگز نباید مستقیماً به نرمافزار محول شود.
«بر اساس قوانین فعلی، هوش مصنوعی یک شخص حقوقی نیست که بتواند وظایف یا مسئولیتها را بر عهده بگیرد. این یک سیستم فنی است که از طرف یک شخص حقیقی یا حقوقی عمل میکند.»
به گفته ماتا، یک تحقیق باید به جای آن مشخص کند که چه کسی به عامل اختیار داده، منافع چه کسی را نمایندگی میکرده و چه اختیاراتی دریافت کرده است. چنین تحقیقی کمک میکند تا یک تصمیم زیانبار گرفته شده در چارچوب یک استراتژی تأیید شده، از تراکنشی که محدودیتهای عامل را نقض کرده است، متمایز شود.
مسئولیت عامل هوش مصنوعی از اختیارات اعطا شده پیروی میکند
ماتا رابطه حقوقی را به وکالت تشبیه کرد که بر اساس آن یک طرف اجازه مییابد تا از طرف دیگری در یک محدوده تعریف شده عمل کند. او گفت زمانی که یک صادرکننده، بانک یا سرمایهگذار به یک عامل اجازه معامله میدهد، معمولاً کارفرما (اصیل) پیامدهای اقداماتی را که در چارچوب آن اختیار باقی میماند، بر عهده خواهد گرفت.
بر اساس همین منطق، یک سرمایهگذار نمیتواند یک معامله را صرفاً به دلیل اینکه نرمافزار نتیجه نامطلوبی را تولید کرده است، رد کند. کاهش قیمت به خودی خود نشان نمیدهد که عامل بدون اجازه عمل کرده یا طرف دیگری در وظایف خود کوتاهی کرده است.
ماتا گفت: «یک صادرکننده نمیتواند یک تراکنش نامطلوب اما مجاز را صرفاً به این دلیل که تصمیم توسط نرمافزار تولید شده است، نپذیرد.»
مسئولیت ممکن است زمانی که یک عامل از مأموریت خود فراتر رود، تغییر کند. ماتا گفت یک توسعهدهنده، پلتفرم یا نهاد مالی میتواند در صورتیکه طراحی یا کنترلهای آن باعث یا اجازه این شکست شده باشد، با مسئولیت مواجه شود، اگرچه ارزیابی نهایی به حقایق و قوانین قابل اجرا بستگی دارد.
سندمارک در گزارش خود به تمایزات حقوقی مشابهی اشاره کرد. شانت الیاسزاده، بنیانگذار Astraea Counsel، به این نشریه گفت که مسئولیت عموماً از کنترل تبعیت میکند. او گفت که کاربران معمولاً نقطه شروع هستند زمانی که عوامل از طرف آنها عمل میکنند، اما توسعهدهندگان میتوانند در صورت شکست یک سیستم طراحی شده برای معاملات خودکار به روشی قابل پیشبینی، با خطر مواجه شوند.
این پرسش با دسترسی مستقیم عوامل به کیفپولها و سیستمهای پرداخت، فوریت بیشتری یافته است. در ماه می، گزارشی از Keyrock نشان داد که عوامل هوش مصنوعی طی ۱۲ ماه گذشته ۷۳ میلیون دلار را از طریق ۱۷۶ میلیون تراکنش تسویه کردهاند، که ۹۸.۶٪ از پرداختهای بررسی شده مربوط به USDC بوده است.
کوینبیس نیز عوامل را به معاملات، مدیریت پرتفوی و پرداختها تحت محدودیتهای تعیین شده توسط کاربر متصل کرده است. تا ماه جولای، چینآنالیز بیش از ۱۰۰ میلیون پرداخت مرتبط با x402 را در Base شمارش کرده بود، اگرچه شرکت تحلیلگر گفت که استخراج میمکوین و فعالیتهای خودکار به مجموع تراکنشهای اولیه کمک کردهاند. بنابراین، این ارقام فقط نمایانگر عوامل مستقل که کالا یا خدمات خریداری میکنند، نبودند.
تأیید انسان نیاز به محدودیتهای واضح و قابل اجرا دارد
در حالی که یک شخص ممکن است فعالیت یک عامل را رسماً تأیید کند، ماتا گفت که رضایت به تنهایی کنترل معناداری را فراهم نمیکند اگر شخص نتواند اختیارات اعطا شده را درک کند.
به نظر او، تفویض اختیار مؤثر، نیازمند فهرستی از اقدامات مجاز و داراییهای واجد شرایط، همراه با محدودیتهایی برای تراکنشهای فردی و کل هزینهها است. یک مأموریت همچنین باید مدت زمان خود، شرایطی که نیازمند بازبینی انسانی است، حق کارفرما برای لغو دسترسی، و سوابق هر اقدامی که انجام شده را مشخص کند.
چنین کنترلهایی از قبل در محصولات تجاری دیده میشوند. Anchorage Digital در ماه می بانکداری مبتنی بر عامل را با هویتهای تأیید شده، محدودیتهای هزینه و کنترلهای حسابرسی برای سیستمهای خودکار که به رمزارز و ریلهای پرداخت سنتی دسترسی دارند، معرفی کرد.
ویزا و وایرکس به طور جداگانه پرداختهای استیبلکوین مبتنی بر عامل را برای اشتراکهای نرمافزاری، بودجههای بازاریابی و تدارکات آزمایش کردهاند. به گفته وایرکس، این آزمایشها برای بررسی امنیت، قابلیت اطمینان، شفافیت و کنترل مصرفکننده هنگام شروع پرداختها توسط نرمافزار برای یک کاربر یا کسبوکار طراحی شده بودند.
یک راهنمای ژوئن درباره پرداختهای مبتنی بر عامل توضیح داد که چگونه x402 به نرمافزار خودکار اجازه میدهد تا برای دادهها، خدمات محاسباتی و منابع آنلاین با استفاده از استیبلکوینها پرداخت کند. از آنجایی که این پرداختها میتوانند بدون تأیید هر تراکنش توسط یک شخص انجام شوند، سیستمهای مجوز باید مشخص کنند که عامل چه چیزی میتواند بخرد، چقدر میتواند هزینه کند و چه زمانی دسترسی آن به پایان میرسد.
ERC-8226 مأموریتهای عامل هوش مصنوعی را به صورت درونزنجیرهای ثبت میکند
ماتا به ERC-8226، استاندارد پیشنهادی مأموریت عامل تنظیمشده، به عنوان مدلی برای قابل تأیید ساختن اختیارات تفویضشده اشاره کرد.
استاندارد ERC-8226 که در ۱۲ آوریل به عنوان یک پیشنویس استاندارد اتریوم ارائه شد، برای عوامل هوش مصنوعی که با داراییهای توکنسازی شده تنظیمشده کار میکنند، طراحی شده است. این پیشنهاد توسط مشارکتکنندگان Brickken، لودوویکو روسی، داریو لو بولیو، ثامر دریدی، و نبیل ال عالمی خلیفی نوشته شده است.
این استاندارد که به RAMS معروف است، به یک کارفرمای تأیید شده اجازه میدهد تا به یک عامل درونزنجیرهای اجازهای بدهد که بر اساس دارایی، اقدام، مدت زمان و ارزش پولی محدود شده باشد. یک قرارداد توکن تنظیمشده میتواند مأموریت را زمانی که عامل تلاش میکند یک تراکنش را اجرا کند، بررسی کند.
این پیشنهاد سه پرسش را که ممکن است در طول یک معامله توسط عامل مطرح شود، از هم جدا میکند. یک رجیستری هویت تأیید میکند که عامل وجود دارد، یک ارائهدهنده انطباق مشخص میکند که آیا کارفرما واجد شرایط معامله با دارایی است، و رجیستری RAMS تأیید میکند که آیا اقدام برنامهریزی شده در چارچوب مأموریت تفویض شده قرار میگیرد یا خیر.
بر اساس مشخصات پیشنویس، یک مأموریت میتواند حداکثر مبلغی را برای یک تراکنش و مبلغ تجمعی را در چندین تراکنش تعیین کند. همچنین میتواند شامل زمانهای فعالسازی و انقضا، داراییهای مجاز، اقدامات تأیید شده، توابع لغو، و سوابقی باشد که نشان میدهد عامل قبلاً چه مقدار از اختیارات خود را استفاده کرده است.
ماتا گفت که RAMS مسئولیت را به عامل منتقل نمیکند و یک کارفرما را برای یک ضرر مجاز جبران نخواهد کرد. در عوض، استاندارد پیشنهادی شواهدی ارائه میدهد که نشان میدهد چه کسی اختیارات را اعطا کرده، عامل چه کاری میتوانسته انجام دهد، و آیا تراکنش در چارچوب آن محدودیتها باقی مانده است یا خیر.
«هدف آن قابل تأیید کردن انتساب است: چه کسی اختیارات را اعطا کرده، عامل مجاز به انجام چه کاری بوده، آیا در چارچوب آن محدودیتها باقی مانده و کدام شخص یا کنترل در صورت عدم رعایت آن شکست خورده است.»
ERC-8226 همچنان یک پیشنویس است و نه یک استاندارد اتریوم پذیرفته شده یا الزام قانونی. صفحه بحث آن نیز پرسشهای حل نشدهای را فهرست میکند، از جمله اینکه آیا توکنهای خریداری شده توسط یک عامل باید در کیفپول عامل باقی بمانند یا مستقیماً به کیفپول کارفرما منتقل شوند.
قوانین ایالات متحده مسئولیت را بر عهده شرکتهای تنظیمشده میگذارد
برای بازارهای ایالات متحده، قوانین موجود اوراق بهادار از قبل وظایفی را بر عهده شرکتهایی قرار میدهند که دسترسی به بورسها و سیستمهای معاملاتی جایگزین را فراهم میکنند.
بر اساس قانون 15c3-5 SEC، یک کارگزار-معاملهگر که دسترسی به بازار را فراهم میکند، باید کنترلهای ریسک مالی و نظارتی را تحت کنترل مستقیم و انحصاری خود حفظ کند، با استثنائات محدود. راهنمایی SEC میگوید که کارگزار-معاملهگر حتی زمانی که از فناوری ارائه شده توسط یک شخص ثالث مستقل استفاده میکند، مسئول اثربخشی این کنترلها باقی میماند.
این قانون نیازمند بررسیهای خودکار قبل از معامله است که برای متوقف کردن سفارشهایی که از آستانههای اعتباری یا سرمایهای از پیش تعیین شده فراتر میروند، طراحی شدهاند. همچنین نیازمند کنترلهایی است که سیستمهای معاملاتی را به افراد مجاز محدود میکند، تراکنشهای اوراق بهادار ممنوعه را مسدود میکند، و گزارشهای اجرای فوری را به کارکنان نظارت ارائه میدهد.
برای پرداختهای مصرفکننده، مقررات E نیازمند آن است که انتقال وجوه الکترونیکی از پیش تأیید شده، دارای یک مجوز کتبی یا به طور مشابه تأیید شده از سوی صاحب حساب باشد. راهنمایی CFPB همچنین میگوید که فرآیند مجوز باید هویت و توافق مصرفکننده را نشان دهد، در حالی که به مصرفکننده اجازه میدهد تا پرداختهای آینده را تحت رویههای مشخص شده متوقف یا لغو کند.
قوانین فعلی CFPB مستقیماً مشخص نمیکنند که چگونه یک دستورالعمل دائمی مانند «مدیریت پرتفوی من» باید زمانی اعمال شود که یک عامل هوش مصنوعی به طور مستقل نقل و انتقالات فردی را انتخاب و اجرا میکند. سندمارک گزارش داد که وکلا هنوز در مورد اینکه آیا یک پرداخت دستکاری شده توسط عامل به یک انتقال غیرمجاز ناشی از سرقت اطلاعات هویتی شباهت دارد یا به یک تراکنش مجاز که تحت دسترسی قبلاً اعطا شده انجام شده است، اختلاف نظر دارند.
خارج از ایالات متحده، سارا بریدن، معاون فرماندار بانک مرکزی انگلستان، در ماه ژوئن گفت که چارچوبهای نظارت مالی برای عوامل خودکار طراحی نشدهاند و درخواست تأیید انسانی برای هر اقدام ممکن است غیرواقعی باشد. او گفت که رگولاتورها در حال بررسی تدابیر حفاظتی قویتر، از جمله قطعکنندههای مدار یا سوئیچهای توقف اضطراری در سطح بازار هستند، در صورتی که مدلهای هوش مصنوعی معیوب سیستمهای معاملاتی را تهدید کنند.