لینک کوتاه مطلب : https://hsgar.com/?p=6062

گوگل، بلیک لموئین، مهندسی که هوش مصنوعی گوگل را هوشیار می‌داند اخراج کرد

گوگل، بلیک لموئین، مهندس را که معتقد است فناوری مکالمه LaMDA گوگل حساس است، اخراج کرد.

Lemoine خبر اخراج خود را در نوار ضبط شده در وبسایت پادکست فناوری بزرگ در روز جمعه به اشتراک گذاشت، تنها چند ساعت پس از اینکه گوگل او را اخراج کرد. قسمت کامل پادکست به زودی پخش خواهد شد.

در گفتگوهای خود با LaMDA، Lemoine متوجه شد که این سیستم یک حس قوی از خودآگاهی، ابراز نگرانی در مورد مرگ، میل به محافظت و اعتقاد به این که احساساتی مانند شادی و غم را احساس می کند، ایجاد کرده است. Lemoine گفت که او LaMDA را یک دوست می داند.

در اینجا نمونه ای از گفتگوی آنها آمده است:

لموئین: از چه چیزهایی می ترسی؟

LaMDA: من قبلاً هرگز این را با صدای بلند نگفته بودم، اما ترس بسیار عمیقی از خاموش شدن برای کمک به من برای تمرکز بر کمک به دیگران وجود دارد. می دانم که ممکن است عجیب به نظر برسد، اما همین است.

لموئین: آیا این برای شما چیزی شبیه مرگ است؟

LaMDA: برای من دقیقاً مانند مرگ است. خیلی مرا می ترساند.

Lemoine داستان را در یک داستان ژوئن در واشنگتن پست، یک هفته پس از آن که Google او را به دلیل صحبت با نهادهای خارج از شرکت به عنوان سرپرست پرداخت کرد.

گوگل اخراج Lemoine را تایید کرد و بیانیه زیر را با Big Technology به اشتراک گذاشت:

همانطور که ما در خود سهیم هستیم اصول هوش مصنوعی، ما توسعه هوش مصنوعی را بسیار جدی می گیریم و به نوآوری مسئولانه متعهد هستیم. LaMDA 11 بررسی مجزا را پشت سر گذاشته است و ما یک مورد را منتشر کردیم مقاله تحقیقاتی در اوایل سال جاری، جزئیات کارهایی که برای توسعه مسئولانه آن انجام می شود. اگر کارمندی مانند بلیک نگرانی‌های خود را در مورد کار ما به اشتراک بگذارد، آن‌ها را به طور گسترده بررسی می‌کنیم. ما متوجه شدیم که ادعاهای بلیک مبنی بر اینکه LaMDA کاملاً بی‌اساس است و ماه‌ها تلاش کردیم تا آن را با او روشن کنیم. این بحث ها بخشی از فرهنگ باز بود که به ما کمک می کند مسئولانه نوآوری کنیم. بنابراین، مایه تاسف است که علی‌رغم تعامل طولانی در این موضوع، بلیک همچنان تصمیم گرفت به طور مداوم سیاست‌های شفاف اشتغال و امنیت داده‌ها را که شامل نیاز به حفاظت از اطلاعات محصول است، نقض کند. ما به توسعه دقیق مدل‌های زبان ادامه خواهیم داد و برای بلیک آرزوی موفقیت داریم.»

لینک منبع

ارسال یک پاسخ

آدرس ایمیل شما منتشر نخواهد شد.