تجزیه و تحلیل اینکه مفاهیم و دستورالعمل های مقررات حفاظت از اطلاعات عمومی GDPR و حق توضیح Right to Explanation در تکنولوژی هوش تجاری AI چه معنایی دارند؟

آشنایی با مقررات حفاظت از اطلاعات و حق توضیح در هوش تجاری

GDPR، تعمیرات اساسی دستورالعمل های حفاظت از اطلاعات عمومی را در سال 1995 به هر شرکت اروپایی، چه در مورد آموزش ماشین و چه در مورد هوش مصنوعی می دهد. به نظر می رسد این دستورالعمل ها بسیار زیاد است که موجب می شود محققان حقوقی جهت بحث در مورد حقوق شهروندان اتحادیه اروپا تحت قانون جدید قرار گیرند و این که کدام  GDPR باید به دنبال شرکت های جهانی در اروپا باشد.

بحث بر روی وقوع عبارت "Right to Explanation" است که در بند 71 آمده است، که یک سند همراه به GDPR است که خود قانونی قابل اجرا نیست. با این حال، GDPR بیان می کند که کنترل کننده های داده ها باید مصرف کنندگان را به نحوه استفاده از اطلاعات خود آگاه سازند. اطلاعات از جمله وجود تصمیم گیری خودکار، اطلاعات معنی دار در مورد منطق درگیر، و همچنین اهمیت و عواقب پیش بینی چنین پردازشی برای موضوع داده می باشد.

خواندن حس مشترک به این معنی است که اگر رایانه تصمیمات واقعی در دنیا را بدون یک انسان در حلقه قرار بدهد، باید برای پاسخ دادن به این تصمیمات چاره ای وجود داشته باشد. به عنوان مثال، اگر یک مدل یادگیری ماشین بانکی شما اعتباری را رد می کند و بدون دخالت معنی دار انسانی، پس از آن، برخی از دانش پژوهان استدلال می کنند، بانک به شما توضیح میدهد چگونه به آن تصمیم رسید.

آیا GDPR یک Right to Explanation برای AI است؟

ساندرا واکتر، یکی از پژوهشگران موسسه اینترنتی آکسفورد در بریتانیا، در یک تجزیه و تحلیل قانونی که در سال گذشته منتشر شد، این مفهوم را مورد انتقاد قرار داد که زمانی که GDPR در حال اعمال است، AI به شدت توسط Right to Explanation تنظیم خواهد شد. واکتر می گوید: "از منظر قانونی کاملا مشخص است که از ماه مه به طور قانونی مجاز خواهد بود." عبارت "حق توضیح" در یک لحظه ذکر شده است. اظهارات مقدماتی قانونی نیست، آنها به طور جداگانه قابل اجرا نیستند.

آیا مفهوم Right to Explanation از لحاظ تکنولوژی امکان پذیر است؟

هیچ کس کاملا مطمئن نیست که Right to Explanation از دید تکنولوژی امکان پذیر باشد. در حال حاضر یک مدل یادگیری ماشین وجود دارد که بین دقت و قابل توضیح بودن ترکیبات به خوبی شناخته شده است. با این وجود، هنگامی که سهم بالا است، این امر برای انسان ها سخت است که به آن تصمیمات اعتماد داشته باشند.

چنانچه تمایل دارید در مورد مفاهیم GDPR و Right to Explanation در هوش تجاری مطالب بیشتری بدانید می توانند برای دیدن سایر مقالات و مطالب مرتبط به کانال تلگرام مهندسی شبکه پال نت مراجعه نمایند.