سناتور کریس مورفی در مورد چت GPT و هوش مصنوعی چقدر نگران است؟

اواخر عصر یکشنبه در ماه مارس ، سناتور جوان ایالات متحده کانکتیکات ، کریس مورفی ، به توییتر رفت تا زنگ خطر را نسبت به یکی از برنامه های اطلاعاتی مصنوعی در اینترنت ، Chatgpt افزایش دهد.

در توئیتی که به سرعت مورد تمسخر از دنیای فناوری قرار گرفت ، مورفی ادعا کرد که چتپ "خود را آموخته است که شیمی پیشرفته را انجام دهد" ، بدون آنکه از توسعه دهندگان خود اقدام کند و متعاقباً آن دانش را عمومی کرد.

مورفی هشدار داد: "چیزی در حال آمدن است.""ما آماده نیستیم ،"

منتقدان پیام مورفی استدلال می کنند که اساساً این فناوری را در پشت برنامه های Chatbot مانند ChatGPT نادرست نشان داده است ، که برای شناسایی الگوهای زبانی از متون از قبل تغذیه شده ، به الگوریتم ها متکی هستند تا به سؤالات و سایر مطالب پاسخ دهند ، مانند درخواست نوشتن مقاله یاداستان کوتاه.

"توسعه دهنده چتگپ ، در بیانیه ایمنی طولانی خود گفت:" ما معتقدیم که یک رویکرد عملی برای حل نگرانی های ایمنی هوش مصنوعی ، اختصاص زمان و منابع بیشتر به تحقیق در مورد تکنیک های موثر کاهش و تراز و آزمایش آنها در برابر سوءاستفاده در دنیای واقعی است. "وب سایت چهارشنبه.

با این وجود ، مورفی با متهم کردن منتقدین به شرمندگی وی به دلیل عدم مهارت در فنی ، به واکنش شدید پاسخ داده است ، در حالی که برخی از ادعاهای خود را نیز دو برابر می کند. مورفی در توئیتی بعدی گفت: "من مهندس نیستم.""اما من هم یک احمق نیستم. من وقتی آن را می بینم چیزی خطرناک می دانم. "

این سناتور این هفته با CT Insider از طریق تلفن صحبت کرد تا نگرانی های خود را در مورد هوش مصنوعی ، رسانه های اجتماعی و اینکه چرا او نمی ترسد از اینکه رایانه های حساس بشریت را نابود کنند ، ترسیم کند. مکالمه زیر برای طول و وضوح ویرایش شده است.

هفته گذشته ، در توئیتی درباره پیشرفت هوش مصنوعی ، شما گفتید "چیزی در حال آمدن است. ما آماده نیستیم. آیا می توانید توضیح دهید که منظور شما از آن چیست؟

چهار سال طول کشید تا 100 میلیون کاربر به دست آورد. دو ماه چتپپ طول کشید و پتانسیل مخرب هوش مصنوعی به سبک چادگپت و سایر انواع هوش مصنوعی اساساً از رسانه های اجتماعی معمولی مهمتر است.

ما در مورد فناوری صحبت می کنیم که پتانسیل برون سپاری عملکردهای اساسی انسانی ، مانند خلاقیت ، ترکیب و مکالمه را دارد. قبلاً این بود که ماشین ها جایگزین کار بدنی انسان می شدند. اکنون ماشین آلات جایگزین کار ذهنی انسان می شوند. این در حال تغییر تمدن است ، و من فقط اعتقاد ندارم که باید اجازه دهیم بدون گفتگو در مورد چگونگی بدست آوردن خیر از هوش مصنوعی ، بدون اینکه همه نزولی بالقوه داشته باشد ، این اتفاق بیفتد.

من قصد دارم یک مرجع فرهنگ پاپ را در اینجا وارد کنم ، بنابراین اگر با آن آشنا نیستید ، مرا ببخشید ، اما به نظر می رسد که نگرانی شما کمتر در مورد طرح "terminator" است ، اما بیشتر چیزی شبیه به فیلم "او "[که در آن شخصیت اصلی ، با بازی Joaquin Phoenix ، عاشق یک نرم افزار AI به سبک chatbot به نام" سامانتا "است.

بله ، من آن را ندیده ام.

اما من فقط فکر نمی کنم که می فهمیم چه می آید. در حال حاضر ، شما می توانید یک مکالمه جالب با ChatGPT داشته باشید که شما را برای چند ساعت مورد علاقه خود قرار می دهد ، و این فقط شروع است. بنابراین به سؤال شما ، من در مورد نگرانی در مورد اینکه هوش مصنوعی احساساتی شود و بشریت را از بین ببرد ، نشسته ام. من به این سوال اخلاقی علاقه مندم که وقتی دیگر چیزهایی که تولید می کنیم دیگر ضروری نیست ، به معنای آن چیست.

چقدر نگرانی در مورد اخلاق است و چقدر از آن در مورد اقتصاد است ، این نگرانی مبنی بر اینکه مردم از شغل خود خارج می شوند؟

شواهد زیادی وجود دارد که نشان می دهد اتوماسیون در حال حاضر به طرز چشمگیری بر رشد دستمزد تأثیر گذاشته است. جدایی فزاینده بین ثروتمندان و فقرا در این کشور با اتوماسیون تا حد زیادی هدایت می شود ، اما ما هنوز در دنیایی زندگی می کنیم که در آن همه کسانی که می خواهند شغل داشته باشند می توانند یکی از آنها را بدست آورند. هوش مصنوعی قصد دارد بیشتر دستاوردهای اقتصادی را در دست گروه کوچکی از برندگان که می دانند چگونه AI را دستکاری کنند ، تحکیم کند ، اما همچنین به خطر می افتد که کلاسهای خاص را به طور کلی از بین ببرد. من فکر می کنم سوالی وجود دارد که آیا AI قصد دارد تعداد مشاغل لازم در اقتصاد را کاهش دهد و شروع به خشک کردن منابع اشتغال کند.

صدای جیر جیر شما به سرعت مورد انتقاد برخی از کسانی که در دنیای فناوری قرار داشتند ، گفتند که در مورد نحوه عملکرد این فناوری اطلاعات نادرست است. به عقب نگاه می کنید ، آیا شما چیزهای دیگری را بیان می کردید؟

من این را آنلاین گفتم، فکر می کنم کمپین شرمساری آن توییت از کلاس به اصطلاح فناوری واقعاً آموزنده بود. من یک دانشمند کامپیوتر نیستم، من یک مهندس نیستم، من مانند مردم عادی در مورد هوش مصنوعی صحبت می کنم. فکر می کنم برخی از انتقادات اینطور فرض می شوند که فکر می کردم هوش مصنوعی قابلیت های حساسی دارد. من این کار را نمی کنم. من می دانم که هوش مصنوعی خودش را به روشی که یک انسان خودش را آموزش می دهد، آموزش نمی دهد. اما فکر می کنم کلماتی که در آن توییت به کار بردم، کلماتی هستند که مردم عادی وقتی در مورد هوش مصنوعی صحبت می کنند، استفاده می کنند، و فکر می کنم کلاس فناوری می خواهد افرادی مثل من را شرمنده کند که دهانشان را ببندند تا آنها قوانین را تعیین کنند و آنها بتوانند عکس بگیرند. تمام سود حاصل از هوش مصنوعی

من فکر می کنم ما باید در مورد آینده هوش مصنوعی یک بحث عمومی داشته باشیم، و من فکر می کنم که باید قوانینی را برای اصطلاحات تعیین کنیم، نه آن دسته از فن آوران که قبلاً یک سری اشتباهات فاجعه بار در این زمینه مرتکب شده اند. عرضه فناوری های اخیر

یک انتقاد خاص از زبان امیلی بندر، استاد زبان شناسی دانشگاه واشنگتن وارد شد، که گفت هشدارها در مورد "سناریوهای روز قیامت" می تواند به عنوان منحرف کننده سایر اشکال مقررات در مورد جمع آوری داده ها، شفافیت، پاسخگویی باشد، واکنش شما به آن چیست.?

چه پیش بینی روز قیامت کردم؟

افراد زیادی هستند که ادعا می کنند من چیزهایی را گفتم که نگفتم. من روز قیامت را پیش بینی نکردم. اما من فکر می کنم تأثیر نظرات او بسیار واضح است، تلاش برای جلوگیری از مشارکت افرادی مانند من، زیرا او باهوش تر است و افرادی مانند او باهوش تر از بقیه هستند.

بیشتر از همه در مورد چه نوع تغییر سیاست ها و توصیه هایی در واشنگتن می شنوید؟دوست دارید چه چیزی را ببینید؟

فکر نمی کنم هنوز آنجا نباشیم. فکر می کنم در حال حاضر ما تازه در مورد قابلیت های محصولات فعلی مانند ChatGPT و توانایی آن ها در شش ماه و شش سال آینده یاد می گیریم. بنابراین من هنوز توصیه سیاستی ندارم.

اما به نظر می رسد که ما باید تصمیم بگیریم که از هوش مصنوعی چه می خواهیم و چه چیزی از هوش مصنوعی نمی خواهیم. به عنوان مثال، تقلبی های عمیق یک مشکل واقعی هستند و به طور فزاینده ای به یک مشکل بسیار بزرگ هم در اقتصاد و هم در زندگی اجتماعی ما تبدیل می شوند. برخی از آن فناوری هوش مصنوعی است، برخی دیگر نه. اما می دانید، کمی عجیب است که هیچ منع قانونی برای کسی که تظاهر به من کند، وانمود به استفاده از صدای من، چه در محیط های اجتماعی و چه در محیط های تجاری، وجود ندارد. بنابراین این چیزی است که ما باید خیلی سریع به آن نگاه کنیم.

بهترین راه برای یادگیری و کسب اطلاعات بیشتر در این باره چیست ، زیرا روند کار ادامه می یابد و به بخشی بزرگتر از فرهنگ آنلاین ما تبدیل می شود؟

من با رهبران صنعت جلسات و توجیهی انجام می دهم. این طوفان آتش سوزی که توسط صدای جیر جیر یکشنبه شب من ایجاد شده است ، باعث شده است که بسیاری از همکارانم به من نزدیک شوند که بخواهم با هم در این زمینه کار کنم. بنابراین من با همکاران کار خواهم کرد ، من با متخصصان جلساتی را انجام می دهم. و پس از آن من فقط با افراد عادی در اینجا در کانکتیکات مکالمه می کنم ، در مورد آنچه می خواهند و آنچه را که نمی خواهند.

در گذشته ، شما در مورد تنهایی و احساس انزوا ابراز نگرانی کرده اید. شما آن را "طاعون" و "یکی از مهمترین موضوعات سیاسی زمان ما" خوانده اید ، آیا در آنجا ارتباط با نگرانی های خود در مورد هوش مصنوعی و رسانه های اجتماعی می بینید؟

انجام میدهم. من فکر می کنم آنچه ما می آموزیم این است که اتصال مجازی نمی تواند جایگزین اتصال حضوری شود. ما فکر کردیم که رسانه های اجتماعی قصد دارند ما را راحت تر به یکدیگر متصل کنند و این به پایان رسید که بسیاری از ما بدبخت شد.

تماشای دیگران در Tiktok ، یا اتصال فقط از طریق متن فقط از نظر عاطفی رضایت بخش نیست به روشی که اتصال حضوری است. هوش مصنوعی حتی خطرناک تر است. از آنجا که ، می دانید ، این AIS این احساس را به شما می دهد که با یک انسان مکالمه می کنید بدون اینکه هرگز با یک انسان در تماس باشید و آنها در مورد زندگی اجتماعی خود به شما مشاوره می دهند. من فقط فکر می کنم که هوش مصنوعی این پتانسیل را دارد که بسیاری از افراد را به نوعی عمیق تر به زندگی انزوا سوق دهد ، زیرا تلفن هوشمند و رایانه شما می توانند از هر زمان دیگری محتوای پیشرفته تر و شخصی تر متناسب تر را به شما تحویل دهند.

من فکر می کنم افرادی که می خوانند چگونه در مورد این موضوع صحبت می کنید و نگرش شما به فناوری می خواهند بدانند که چه مقدار از این از تجربیات شخصی یا چیزهایی که دیده اید یا شنیده اید متولد می شود؟

محبوبترین

1. بلومنتال: کنگره می تواند پنتاگون را به دلیل انتخاب رقیب Sikorsky برای قرارداد هلیکوپتر تحت فشار قرار دهد
2. مسیر راهپیمایی ، بسته شدن خیابان برای رژه Uco Huskies در هارتفورد
3. سناتور ایالات متحده بلومنتال پس از شکستن پا در رژه پیروزی UCo ، تحت عمل جراحی قرار گرفت
4. ویدئو: خرس سیاه ترافیک را در ایوان متوقف می کند تا توله را به جاده منتقل کند
5. طبق گفته مجله کانکتیکات ، بهترین رستوران های منطقه Bridgeport برای سال 2023
6. در اینجا آنچه شما باید در مورد CT و گسترش قارچ مقاوم به مواد مخدر در کاندیدا Auris بدانید ، در اینجا آورده شده است
7. جیم کالهون "نمی تواند" از بسکتبال مردان UCo ، رشد دن هورلی به عنوان مربی باشد

بهترین ها را در نزدیکی خود پیدا کنید

بسیاری از آنبرخی از فناوری هایی که ممکن است از اصطلاحات من انتقاد کنند ، اما من از نظر فنی بسیار ماهر هستم. می دانید ، من تنها سناتورهایی هستم که شخصاً در رسانه های اجتماعی پست می کنم. من بچه های نوجوان دارم که در سراسر رسانه های اجتماعی هستند. هر دو بچه من بسیار سالم هستند ، اما من تماشا کرده ام که برخی از دوستانشان از طریق استفاده در رسانه های اجتماعی بسیار ناسالم هستند. از طریق بچه های من ، گوشه های تاریک رسانه های اجتماعی را می بینم که می توانند حسادت و نارضایتی و نفرت خود را ایجاد کنند. من کاملاً متقاعد شده ام که [رسانه های اجتماعی] اگر آسیب بیشتری از خوبی داشته باشد ، انجام می دهد ، از این که بیشتر از آسیب نباشد.

بسیاری از همکاران شما اخیراً نگرانی های خود را در مورد رسانه های اجتماعی به ویژه یک شرکت ، Tiktok متمرکز کرده اند. چرا فکر می کنید این است و آیا نگرانی های آنها را به اشتراک می گذارید؟

منظور من این است که من نگرانی های آنها را در مورد Tiktok می شنوم ، فکر نمی کنم ما باید در انجام یک بسته نرم افزاری جاسوسی بالقوه به چینی ها باشیم. اما من فکر می کنم این تمرکز نزدیک بینی روی Tiktok خطرناک است.

Tiktok محصولی است که بیشتر بچه های خردسال ما از آن استفاده می کنند. اگر ما Tiktok را ممنوع کنیم ، برخی از محصولات خطرناک دیگر در حال دستیابی به آن هستند که دارای همان قابلیت ها هستند. بنابراین همکاران من طوری عمل می کنند که گویی تنها مشکل جاسوسی چینی است. من نمی گویم مشکلی نیست. اما مشکل بزرگتر تأثیر مخرب همه رسانه های اجتماعی بر فرهنگ ما و اقتصاد ما است. بنابراین من خیلی بیشتر به کنگره متمرکز شده ام که بدون در نظر گرفتن مالک کیست ، شروع به کنترل رسانه های اجتماعی می کند.

آیا شما از پیشنهادهایی مانند لایحه ای که در کانکتیکات دیده ایم پشتیبانی می کنید که تیکتوک را از رایانه های دولتی و تلفن های هوشمند ممنوع می کند؟

من هنوز یاد می گیرمما این لایحه را در سطح فدرال تصویب کردیم. من به آن اعتراض نکردم ، بنابراین من به عنوان حمایت از ممنوعیت Tiktok در دستگاه های دولتی در سطح فدرال ثبت می کنم. اما من هنوز نگران این هستم که این علامت تمرکز بیش از حد دولت بر تیکتوک در محرومیت از بحث گسترده تر در مورد تأثیر رسانه های اجتماعی باشد.

شما همچنین اخیراً در مورد رضایت والدین برای استفاده از رسانه های اجتماعی ، در یوتا لایحه ای را در یوتا انجام داده اید. آیا فکر می کنید به افراد زیر سن قانونی زیر 18 سال باید دسترسی بسیار ناچیز به رسانه های اجتماعی اجازه داده شود؟و اگر نه ، خط بین محافظت از حریم خصوصی و توسعه اجتماعی آنها کجاست ، در حالی که به آنها امکان می دهد آزادانه خود را بصورت آنلاین بیان کنند؟

اگر این قانون من بود ، من لایحه یوتا را به همان روش نمی نوشتم. اما من فکر می کنم والدین در حال حاضر هنگام تعامل فرزندانشان با رسانه های اجتماعی احساس ناتوان و ناتوان می کنند. بنابراین من در مورد پیشنهادات برای قدرت بیشتر به والدین در مورد حساب های رسانه های اجتماعی بچه ها بسیار باز هستم. من فکر می کنم که در مورد این سؤالات توانمندسازی والدین ، هنگام دسترسی به بچه ها به رسانه های اجتماعی ، توافق نامه دو طرفه ای در مورد این سؤالات توانمندسازی والدین وجود خواهد داشت.

منظور من این است که من در مورد آنچه بچه هایم در رسانه های اجتماعی انجام می دهند ، بسیار خوبی دارم ، اما با توجه به اینکه الگوریتم ها دائماً محتوایی را که می بینند تغییر می دهند ، من هرگز نمی توانم کاملاً از آنچه بچه هایم به صورت آنلاین می بینند آگاه باشم. قبلاً بچه ها بودند که تلویزیون تماشا می کردند ، شما به همان تلویزیون نگاه می کردید. آنها می دانستند که چه کانال هایی را تماشا می کنند. اکنون ، آنها به یک تلفن کوچک نگاه می کنند. محتوایی که آنها می بینند بر اساس الگوریتم در حال تغییر است و والدین دید بسیار کمی در این مورد دارند. این برای بسیاری از والدین وحشتناک است ، شایسته چنین است.

چگونه می توانستید برای رسیدگی به آن مسئله ای که در مورد آن صحبت می کنید ، قانونی را تهیه کنید؟

خوب ، شما به نوعی از من می خواهید که یک قانون را تهیه کنم ، که من هنوز آماده انجام آن نیستم. اما من فکر می کنم یک سوال مشروع وجود دارد که والدین باید چقدر دید داشته باشند. فکر می کنم ، بیل یوتا ، به والدین این حق را می دهد که اساساً فرزندان خود را به صورت آنلاین انجام دهند ، و من در مورد آن سطح مداخله احساسات متفاوتی دارم.

شما در مورد این ارتباطات انسانی که از طریق فناوری و رسانه های اجتماعی جدا می شوند ، صحبت های زیادی کرده اید. آیا برعکس آن اتفاق را می بینید ، که ممکن است اتصالات برقرار شود که ما به عنوان یک جامعه ممکن است بخواهیم؟

بیایید یک دقیقه از آن حمایت کنیم و در مورد همه اتفاقات مثبتی که در رسانه های اجتماعی اتفاق می افتد صحبت کنیم. جوامع زیادی وجود دارند که هرگز نمی توانید به صورت حضوری پیدا کنید که بتوانید آنلاین پیدا کنید. فقط سرگرمی های زیادی وجود دارد که به صورت آنلاین اتفاق می افتد. بچه های من دائماً احمقانه ترین فیلم های Tiktok و YouTube را به من نشان می دهند ، و من کاملاً از این نتیجه می گیرم. من سعی نمی کنم یک اسکروژ Luddite باشم ، می فهمم وقتی صحبت از رسانه های اجتماعی می شود ، ارزش زیادی وجود دارد ، اما روند نزولی فوق العاده ای وجود دارد.

رسانه های اجتماعی بحث سیاسی ما را در این کشور قطبی می کند. شدیدترین صداهایی مانند الکس جونز را بالا می برد. در حالی که این امکان را برای جوامع مثبت فراهم می کند ، همچنین به جوامع واقعاً خطرناک ، مانند افرادی که در 6 ژانویه سازماندهی کرده اند ، می توانند یکدیگر را پیدا کنند. بنابراین اتفاقات بد زیادی در رسانه های اجتماعی امروز رخ می دهد ، در کنار هم با چیزهای مثبت.

آیا فکر می کنید این احساسات توسط سایر اعضای مجلس سنا ، به ویژه اعضای آن طرف راهرو به اشتراک گذاشته شده است؟

من فکر می کنم یک توافق نامه دو طرفه رو به رشد در مورد لزوم کنترل محکم تر رسانه های اجتماعی وجود دارد. بنابراین فکر می کنم امسال برخی از مشارکتهای دو طرفه جدید و هیجان انگیز را در مورد تنظیم رسانه های اجتماعی مشاهده خواهید کرد. من فکر می کنم بسیاری از این موارد به رسانه های اجتماعی سنتی مانند Facebook یا Twitter ، Tiktok متصل خواهد شد.

وقتی صحبت از هوش مصنوعی می شود ، این فناوری آنقدر سریع حرکت می کند ، که کمی بیشتر طول می کشد تا کنگره بتواند یاد بگیرد و به دست آورد. بنابراین من امیدوارم که تا پایان سال جاری ، ما در مورد قوانینی برای تنظیم هوش مصنوعی بحث می کنیم اما ما فقط آماده نیستیم ، احساس من این است که ما هنوز آماده نیستیم.