گوگل می گوید مشتریان می توانند از هوش مصنوعی خود در حوزه های پرخطر استفاده کنند، تا زمانی که نظارت انسانی وجود داشته باشد.

گوگل شرایط خود را تغییر داده است تا مشخص کند که مشتریان می توانند ابزارهای هوش مصنوعی مولد خود را برای اتخاذ «تصمیمات خودکار» در حوزه های «پرخطر» مانند مراقبت های بهداشتی به کار گیرند، تا زمانی که یک انسان در این حلقه وجود داشته باشد.

بر اساس خط مشی به روز شده استفاده از هوش مصنوعی مولد این شرکت که روز سه شنبه منتشر شد، مشتریان ممکن است از هوش مصنوعی مولد گوگل برای اتخاذ «تصمیمات خودکار» استفاده کنند که می تواند «تأثیر مضر مادی بر حقوق فردی» داشته باشد. به شرطی که یک انسان در برخی از ظرفیت ها نظارت کند، مشتریان می توانند از هوش مصنوعی مولد Google برای تصمیم گیری در مورد شغل، مسکن، بیمه، رفاه اجتماعی و سایر زمینه های “پرخطر” استفاده کنند.

در زمینه هوش مصنوعی، تصمیمات خودکار به تصمیماتی اطلاق می شود که توسط یک سیستم هوش مصنوعی بر اساس داده های واقعی و استنباط شده اتخاذ می شود. برای مثال، یک سیستم ممکن است تصمیمی خودکار برای اعطای وام بگیرد یا یک نامزد شغلی را بررسی کند.

پیش‌نویس قبلی شرایط گوگل به معنای ممنوعیت کلی تصمیم‌گیری خودکار پرخطر در مواردی که شامل هوش مصنوعی مولد شرکت می‌شود، بود. اما گوگل به مشتریان TechCrunch می‌گوید که همیشه می‌توانند از هوش مصنوعی مولد آن برای تصمیم‌گیری خودکار، حتی برای برنامه‌های پرخطر، تا زمانی که یک انسان نظارت می‌کند، استفاده کنند.

یکی از سخنگویان گوگل در هنگام دریافت نظر از طریق ایمیل گفت: “الزامات نظارت انسانی همیشه در خط مشی ما برای همه دامنه های پرخطر بود.” «[ما] برخی از موارد را [از نظر خودمان] دوباره دسته‌بندی می‌کنیم و برخی از نمونه‌ها را با صراحت بیشتر می‌خوانیم تا برای کاربران واضح‌تر باشد.»

رقبای برتر هوش مصنوعی گوگل، OpenAI و Anthropic، قوانین سختگیرانه تری برای استفاده از هوش مصنوعی خود در تصمیم گیری های خودکار پرخطر دارند. به عنوان مثال، OpenAI استفاده از خدمات خود را برای تصمیم گیری های خودکار مربوط به اعتبار، اشتغال، مسکن، آموزش، امتیازدهی اجتماعی و بیمه ممنوع می کند. Anthropic اجازه می دهد تا از هوش مصنوعی خود در قانون، بیمه، مراقبت های بهداشتی و سایر زمینه های پرخطر برای تصمیم گیری خودکار استفاده شود، اما فقط تحت نظارت یک “متخصص واجد شرایط” – و از مشتریان می خواهد که فاش کنند که از هوش مصنوعی برای این کار استفاده می کنند. هدف

هوش مصنوعی که تصمیمات خودکاری را که افراد را تحت تأثیر قرار می دهد، مورد بررسی قرار گرفته است، که نگرانی های خود را در مورد پتانسیل این فناوری برای نتایج سوگیری ابراز کرده اند. برای مثال، مطالعات نشان می‌دهد که هوش مصنوعی برای تصمیم‌گیری‌هایی مانند تأیید اعتبار و درخواست‌های وام مسکن استفاده می‌شود، می‌تواند تبعیض تاریخی را تداوم بخشد.

گروه غیرانتفاعی دیده بان حقوق بشر خواستار ممنوعیت سیستم های «امتیاز اجتماعی» شده است که به گفته این سازمان دسترسی افراد به پشتیبانی تامین اجتماعی را مختل می کند، حریم خصوصی آنها را به خطر می اندازد و آنها را به روش های غیرقانونی معرفی می کند.

بر اساس قانون هوش مصنوعی در اتحادیه اروپا، سیستم‌های هوش مصنوعی پرخطر، از جمله آن‌هایی که تصمیم‌های مربوط به اعتبار و استخدام فردی را می‌گیرند، با بیشترین نظارت مواجه هستند. ارائه دهندگان این سیستم ها باید در پایگاه داده ثبت نام کنند، مدیریت کیفیت و ریسک را انجام دهند، ناظران انسانی را استخدام کنند و حوادث را به مقامات مربوطه گزارش دهند.

در ایالات متحده، کلرادو اخیرا قانونی را تصویب کرد که بر اساس آن توسعه دهندگان هوش مصنوعی باید اطلاعات مربوط به سیستم های هوش مصنوعی “پرخطر” را افشا کنند و بیانیه هایی را منتشر کنند که خلاصه ای از قابلیت ها و محدودیت های این سیستم ها را نشان می دهد. در همین حال، شهر نیویورک، کارفرمایان را از استفاده از ابزارهای خودکار برای بررسی تصمیمات استخدامی یک نامزد منع می کند، مگر اینکه این ابزار در سال قبل مورد بازرسی سوگیری قرار گرفته باشد.

منبع:techcrunch