پیامدهای ناخواسته: نتایج انتخابات ایالات متحده از توسعه بی پروا هوش مصنوعی خبر می دهد

در حالی که انتخابات 2024 ایالات متحده بر مسائل سنتی مانند اقتصاد و مهاجرت متمرکز بود، تأثیر آرام آن بر سیاست هوش مصنوعی می تواند حتی دگرگون کننده تر باشد. رای دهندگان بدون یک سوال مناظره یا وعده تبلیغاتی بزرگ در مورد هوش مصنوعی، به طور ناخواسته ترازو را به نفع شتاب گرایان - ،، که از توسعه سریع هوش مصنوعی با حداقل موانع نظارتی حمایت می کنند، منحرف ،د. پیامدهای این شتاب عمیق است و نویدبخش عصر جدیدی از سیاست هوش مصنوعی است که نوآوری را بر احتیاط اولویت می دهد و نشانگر تغییری قاطع در بحث بین خطرات و مزایای بالقوه هوش مصنوعی است.

موضع طرفدار ،ب و کار رئیس جمهور منتخب دونالد ترامپ، بسیاری را به این تصور می رساند که ،ت او به نفع ،، است که هوش مصنوعی و سایر فناوری های پیشرفته را توسعه و بازاریابی می کنند. حزب او پلت فرم در مورد هوش مصنوعی حرف چند، برای گفتن ندارد. با این حال، بر رویکرد سیاستی متمرکز بر لغو مقررات هوش مصنوعی، به ویژه هدف قرار دادن آنچه که آنها به ،وان "ایده های چپ رادیکال" در دستورات اجرایی موجود ،ت در حال ،وج توصیف می کنند، تأکید می کند. در مقابل، این پلتفرم از توسعه هوش مصنوعی با هدف تقویت آزادی بیان و «شکوفایی انسان» پشتیب، می کند و خواستار سیاست هایی است که نوآوری در هوش مصنوعی را ممکن می سازد در حالی که با اقداماتی که تصور می شود مانع پیشرفت فناوری می شود مخالفت کند.

نشانه های اولیه بر اساس انتصابات در مناصب رهبری ،تی بر این جهت تاکید دارد. با این حال، داستان بزرگتری در حال آشکار شدن است: حل و فصل بحث های شدید در مورد آینده هوش مصنوعی.

یک بحث شدید

از زم، که ChatGPT در نوامبر 2022 ظاهر شد، یک بحث شدید بین ،، که در زمینه هوش مصنوعی می خواهند سرعت توسعه هوش مصنوعی را تسریع کنند و ،، که می خواهند سرعت خود را کاهش دهند، وجود داشته است.

معروف است، در مارس 2023، گروه اخیر یک توقف شش ماهه هوش مصنوعی در توسعه پیشرفته ترین سیستم ها را پیشنهاد کرد و هشدار داد. یک نامه سر،ه ابزارهای هوش مصنوعی "خطرات عمیقی برای جامعه و بشریت" دارند. این نامه به رهبری موسسه آینده زندگی، چند ماه پس از راه اندازی ChatGPT، به دلیل انتشار مدل زبان بزرگ GPT-4 (LLM) توسط OpenAI انجام شد.

این نامه در ابتدا توسط بیش از 1000 رهبر و محقق فناوری، از جمله ایلان ماسک، استیو وزنیاک، بنیانگذار اپل، اندرو یانگ نامزد ریاست جمهوری 2020، ل، فریدمن، پاد،ت و یوشوا بنجیو و استوارت راسل از پیشگامان هوش مصنوعی امضا شد. تعداد امضاکنندگان نامه در نهایت به بیش از 33000 نفر افزایش یافت. در مجموع، آن ها به ،وان «قطع کننده» شناخته شدند، اصطلاحی برای جلب نگر، هایشان در مورد خطرات وجودی احتمالی ناشی از هوش مصنوعی.

همه موافق نبودند. سام ،من، مدیر عامل OpenAI امضا نکرد. بیل گیتس و بسیاری دیگر نیز این کار را ن،د. دلایل آن ها برای انجام ندادن این کار متفاوت بود، اگرچه بسیاری نگر، های خود را در مورد آسیب احتمالی هوش مصنوعی ابراز ،د. این منجر به گفت،ای زیادی در مورد پتانسیل عملکرد هوش مصنوعی شد که منجر به فاجعه می شود. برای بسیاری در زمینه هوش مصنوعی صحبت ، در مورد آنها مد شد ارزیابی احتمال عذاب، اغلب به ،وان یک معا، شناخته می شود: p(doom). با این وجود، کار روی توسعه هوش مصنوعی متوقف نشد.

برای ثبت، p(doom) من در ژوئن 2023 5٪ بود. شاید کم به نظر برسد، اما صفر نبود. من احساس کردم که آزمایشگاه های اصلی هوش مصنوعی در تلاش های خود برای آزمایش دقیق مدل های جدید قبل از عرضه و ارائه نرده های محافظ قابل توجه برای استفاده از آنها صادقانه عمل می کنند.

بسیاری از ناظر، که نگران خطرات هوش مصنوعی هستند، خطرات وجودی را بالاتر از 5٪ ارزیابی کرده اند و برخی از آنها رتبه بسیار بالاتری را ارائه کرده اند. محقق ایمنی هوش مصنوعی رومن یامپولسکی احتمال هوش مصنوعی را رتبه بندی کرد پایان دادن به بشریت در بیش از 99٪. گفت: الف مطالعه کنید منتشر شده در اوایل سال جاری، بسیار قبل از انتخابات و نشان دهنده نظرات بیش از 2700 محقق هوش مصنوعی، نشان داد که "پیش بینی متوسط \u200b\u200bبرای نتایج بسیار بد، مانند انقراض انسان، 5٪ بود." اگر احتمال سقوط 5 درصد وجود داشت، سوار هواپیما می شوید؟ این معضلی است که محققان و سیاستگذاران هوش مصنوعی با آن روبرو هستند.

باید سریعتر رفت

دیگران آشکارا نگر، های مربوط به هوش مصنوعی را رد کرده اند و در عوض به چیزی که به ،وان مزیت بزرگ این فناوری درک می کنند، اشاره کرده اند. اینها عبارتند از اندرو انگ (که پروژه مغز گوگل را تاسیس و رهبری کرد) و پدرو دومینگوس (استاد علوم و مهندسی کامپیوتر در دانشگاه واشنگتن و نویسنده کتاب "الگوریتم استاد”). آنها در عوض استدلال ،د که هوش مصنوعی بخشی از راه حل است. همانطور که توسط Ng بیان شد، در واقع خطرات وجودی مانند تغییرات آب و هوا و همه گیری های آینده وجود دارد، و هوش مصنوعی می تواند بخشی از نحوه رسیدگی و کاهش آن باشد.

Ng استدلال کرد که توسعه هوش مصنوعی نباید متوقف شود، بلکه باید سریعتر انجام شود. این دیدگاه اتوپیایی از فناوری توسط دیگر، که در مجموع به ،وان "شتاب گرایان موثر" یا به اختصار "e/acc" شناخته می شوند، تکرار شده است. آنها استدلال می کنند که فناوری - و به ویژه هوش مصنوعی - مشکل نیست، بلکه راه حل بسیاری از مشکلات جهان است. شتاب دهنده راه اندازی Y Combinator مدیر عامل، گری تان، همراه با دیگر رهبران برجسته سیلی، ولی، عبارت "e/acc" را در نام کاربری خود در X گنجانده اند تا همسویی با چشم انداز را نشان دهند. خبرنگار کوین روز در نیویورک تایمز اصل را اسیر کرد این شتاب گرایان با گفتن اینکه «رویکرد تمام گاز و بدون ترمز» دارند.

یک زیرپشته خبرنامه از چند سال پیش اصول زیربنای شتاب گرایی موثر را تشریح کرد. در اینجا خلاصه ای است که آنها در پایان مقاله ارائه می دهند، به علاوه نظری از مدیر عامل OpenAI سام ،من.

شتاب هوش مصنوعی در پیش است

ممکن است نتیجه انتخابات 2024 به ،وان یک نقطه عطف تلقی شود که چشم انداز شتاب گرایی را در موقعیتی قرار می دهد که سیاست هوش مصنوعی ایالات متحده را برای چندین سال آینده شکل دهد. برای مثال، رئیس جمهور منتخب اخیراً دیوید ،س، کارآفرین فناوری و سرمایه دار خطرپذیر را به ،وان «تزار AI» منصوب کرد.

،س، منتقد سرسخت مقررات هوش مصنوعی و طرفدار نوآوری مبتنی بر بازار، تجربه خود را به ،وان سرمایه گذار فناوری به این نقش می رساند. او یکی از صداهای پیشرو در صنعت هوش مصنوعی است و بسیاری از آنچه در مورد هوش مصنوعی گفته است با دیدگاه های شتاب گرایانه بیان شده توسط پلتفرم حزب ورودی همسو است.

،س در پاسخ به فرمان اجرایی هوش مصنوعی ،ت بایدن در سال 2023 توییت کرد: «وضعیت سیاسی و مالی ایالات متحده به طرز ناامیدکننده ای ش،ته شده است، اما ما یک دارایی بی نظیر به ،وان یک کشور داریم: نوآوری پیشرفته در هوش مصنوعی که توسط یک بازار کاملاً آزاد و غیرقابل تنظیم برای توسعه نرم افزار هدایت می شود. همین الان تمام شد.» در حالی که میزان تأثیر ،س بر سیاست هوش مصنوعی همچنان مشخص است، انتصاب او نشان دهنده تغییر به سمت سیاست هایی است که به نفع خود تنظیمی صنعت و نوآوری سریع است.

انتخابات پیامدهایی دارد

من شک دارم که ا،ر مردم رای دهنده در هنگام رای دادن به پیامدهای سیاست هوش مصنوعی فکر کرده باشند. با این وجود، به روشی بسیار ملموس، شتاب گرایان در نتیجه انتخابات پیروز شدند و به طور بالقوه ،، را که از رویکرد محتاطانه تر ،ت فدرال برای کاهش خطرات بلندمدت هوش مصنوعی حمایت می کنند، کنار گذاشتند.

همانطور که شتاب گرایان مسیر رو به جلو را ترسیم می کنند، ریسک نمی تواند بالاتر باشد. این که آیا این عصر پیشرفتی بی نظیر را به همراه دارد یا فاجعه ای ناخواسته، باید دید. با تسریع توسعه هوش مصنوعی، نیاز به گفتمان عمومی آگاهانه و نظارت هوشیارانه بیش از پیش اهمیت می یابد. نحوه گذر از این دوران نه تنها پیشرفت فناوری بلکه آینده جمعی ما را نیز مشخص خواهد کرد.

به ،وان تعادلی برای عدم اقدام در سطح فدرال، ممکن است یک یا چند ایالت مقررات مختلفی را اتخاذ کنند، که قبلاً تا حدی در کالیفرنیا و ک،ادو. به ،وان مثال، لوایح ایمنی هوش مصنوعی کالیفرنیا بر ا،امات شفافیت تمرکز دارد، در حالی که ک،ادو به تبعیض هوش مصنوعی در شیوه های استخدام می پردازد و مدل هایی را برای حکمر، در سطح ایالت ارائه می دهد. اکنون، همه نگاه ها به آزمایش های داوطلبانه و حفاظ های خود تحمیلی در Anthropic، Google، OpenAI و سایر توسعه دهندگان مدل های هوش مصنوعی خواهد بود.

به طور خلاصه، پیروزی شتاب گرا به م،ای محدودیت های کمتر در نوآوری هوش مصنوعی است. این افزایش سرعت ممکن است در واقع منجر به نوآوری سریع تر شود، اما خطر عواقب ناخواسته را نیز افزایش می دهد. من اکنون p(doom) خود را به 10% اصلاح می کنم. مال شما چیست؟

گری گروسمن EVP عمل فناوری در ادلمن و رهبر جه، مرکز تعالی هوش مصنوعی Edelman.