اوپن‌ای‌آی

سازمانی تحقیقاتی در زمینه‌ی هوش مصنوعی

اوپن‌ای‌آی (به انگلیسی: Open AI) یک مؤسسهٔ پژوهشی هوش مصنوعی آمریکایی است که هدف آن توسعهٔ هوش مصنوعی دوستانه برای خدمت به بشریت است. برای همکاری آزادانه با سایر مؤسسات و پژوهشگران، اوپن‌ای‌آی پتنت‌ها و تحقیقات خود را به‌صورت عمومی منتشر می‌نماید. بخشی از انگیزه‌های بنیان‌گذاران اوپن‌ای‌آی (به ویژه ایلان ماسک و سام آلتمن) به نگرانی‌هایی که در رابطه با تهدید هوش مصنوعی برای موجودیت‌های دیگر تصور می‌شود، ذکر شده‌است.[۱]

اوپن ای‌آی (Open AI)
نشان اوپن ای‌آی
بنیان‌گذاری۱۱ دسامبر ۲۰۱۵
بنیان‌گذارانسم آلتمن
ایلیا ساتسکیور
گرگ براکمن
ایلان ماسک (در سال ۲۰۱۸ از شرکت خارج شد)
گونهمؤسسهٔ پژوهشی
هدفتوسعه هوش عمومی مصنوعی ایمن
ستادسانفرانسیسکو، کالیفرنیا، ایالات متحده
محدودهٔ فعالیت
هوش مصنوعی، دانش کامپیوتر
محصولاتجی‌پی‌تی-۴
دال-ئی
اوپن‌ای‌آی فایو
چت‌جی‌پی‌تی
اوپن‌ای‌آی کدکس
افراد کلیدی
وبگاه

تاریخچه

ویرایش

در اکتبر ۲۰۱۵، ایلان ماسک، سام آلتمن و سایر سرمایه‌گذاران تشکیل این سازمان را با سرمایه اولیه ۱ میلیارد دلار اعلام کردند.

در ۲۷ آوریل 2016, OpenAI، نسخه عمومی و بتای "Open AI Gym" و پلتفرم آن را برای یادگیری تقویتی منتشر کردند.

در ۵ دسامبر ۲۰۱۶، اوپن‌ای‌آی، Universe، یک پلتفرم نرم‌افزاری برای اندازه‌گیری و آموزش هوش عمومی (general intelligence) مصنوعی از طریق منابعی مثل بازی‌ها، وبسایت‌ها و سایر کاربردها را منتشر کرد.[۲][۳][۴][۵]

طی تورنمنت بازی‌های ویدئویی The International 2017 Dota 2 در اوت ۲۰۱۷، اوپن‌ای‌آی، مسابقه ای بین یک بات نرم‌افزاری و بازیکن حرفه‌ای دوتا، به نام دندی، را به نمایش گذاشت. پس از این مسابقه، گرگ بروکمن مدیر ارشد تکنولوژی اوپن‌ای‌آی، اعلام کرد که این بات نحوه انجام بازی دوتا را طی دو هفته آموزش از طریق مسابقه با خودش فرا گرفته‌است و این بات برای ایجاد نرم‌افزاری برای انجام اعمال پیچیده‌ای مثل عمل جراحی آماده می‌شود.[۶][۷][۸]

ایلان ماسک در ۲۱ فوریه ۲۰۱۸ اوپن‌ای‌آی را ترک کرد و علتش را امکان تعارض فعالیتش در اوپن‌ای‌آی با برنامه تسلا برای توسعه هوش مصنوعی قادر به راندن اتومبیل‌ها، اعلام کرد.[۹]

دانشمندان شرکت اوپن‌ای‌آی که توسعه‌دهنده چت جی پی تی هستند، خواستار تنظیم مقرراتی برای هوش مصنوعی «فوق‌هوشمند» شده‌اند و استدلال می‌کنند که سازمانی معادل آژانس بین‌المللی انرژی اتمی، برای محافظت از بشریت از خطر ایجاد تصادفی چیزی با قدرت نابود کردن آن مورد نیاز است.

به گزارش «گاردین»، «گرگ براکمن» و «ایلیا سوتسکور»، موسسان این شرکت و «سم آلتمن»، مدیر اجرایی آن خواستار تشکیل یک تنظیم‌کننده بین‌المللی شدند تا مقرراتی را برای کار بر روی نحوه بازرسی سیستم‌ها، نیاز به ممیزی، آزمایش انطباق با استاندارد‌های ایمنی، و اعمال محدودیت‌هایی در درجات استقرار و سطوح امنیتی به منظور کاهش «خطر وجودی» چنین سیستم‌هایی را تنظیم کنند. [۱۰] [۱۱]

انگیزه

ویرایش

برخی از دانشمندان مانند استیون هاوکینگ و استوارت راسل بر این باورند که اگر هوش مصنوعی پیشرفته روزی قادر باشد که خودش را با نرخی فزاینده، طراحی و بازطراحی کند، می‌تواند یک «انفجار هوش» غیرقابل توقف را به وجود آورد که منجر به انقراض بشریت گردد. ایلان ماسک هوش مصنوعی را بزرگ‌ترین تهدید برای موجودیت بشر توصیف می‌کند.[۱۲]

اوپن‌ای‌آی معتقد است که «فهمیدن اینکه هوش مصنوعی همسطح هوش انسان چقدر می‌تواند مفید باشد»، دشوار است و به همان اندازه درک این موضوع که «هوش مصنوعی همسطح انسان اگر نادرست ساخته یا استفاده شود، چقدر می‌تواند به جامعه آسیب برساند» نیز دارای دشواری است.

استراتژی

ویرایش

ایلان ماسک این سؤال را مطرح می‌کند که: «بهترین کاری که می‌توان برای اطمینان از خوب بودن آینده کرد چیست؟ می‌توان در حاشیه نشست و کاری نکرد یا می‌توان در ساختار صحیح برای توسعه هوش مصنوعی به نحوی که ایمن و مفید باشد مشارکت کرد.» ایلان ماسک اذعان می‌نماید که همواره در مسیر توسعه هوش مصنوعی (بی‌ضرر) ریسک ساخته شدن چیزی که از آن می‌ترسیم وجود دارد، با این حال، بهترین دفاع این است که «تا می‌توانیم به توانمند کردن افراد برای بهره‌گیری از هوش مصنوعی کمک کنیم. اگر همه قدرت هوش مصنوعی داشته باشند، آنگاه هیچ شخص یا گروهی وجود نخواهد داشته که ابرقدرت هوش مصنوعی باشند»[۱۳]

استراتژی غیرمعمول ماسک و آلتمن که کاهش مخاطرات هوش مصنوعی از طریق همه گیر کردن آن است، در بین افرادی که نگران خطر انقراض بشریت بدست هوش مصنوعی هستند، استراتژی بحث‌برانگیزی است؛ مثلاً فیلسوف Nick Bostrom در رویکرد ماسک تردید دارد: «اگر شما دکمه ای دارید که با فشردن آن اتفاقات بدی می‌افتد، نباید آن را به سایرین هم بدهید.»[۱۴] در طول یک گفتگو در سال ۲۰۱۶ پیرامون منحصر به فرد بودن تکنولوژی، آلتمن گفت که «ما اصلاً برنامه ای برای انتشار همه کد منبع نداریم» و برنامه ای را مورد اشاره قرار داد که طی آن امکان «انتخاب نمایندگان برای یک مجموعه هدایتگر توسط مردم دنیا» وجود خواهد داشت. گرگ باکمن اظهار داشت که «هدف فعلی ما انجام دادن بهترین کاری است که می‌توانیم انجام دهیم. این هدف کمی ابهام دارد.»[۱۵]

Gym با هدف ارائه یک بنچمارک هوش عمومی مصنوعی که به راحتی نصب شده و بتواند روشی را که در آن محیط‌های هوش مصنوعی در تحقیقات تعریف می‌شوند، استانداردسازی نماید، منتشر شد. این هدف مثل هدفی است که در چالش ImageNet Large Scale Visual Recognition که در تحقیقات یادگیری با سرپرست استفاده می‌شود، اما قرار است که از آن گسترده‌تر باشد. هدف از استانداردسازی محیط در هوش مصنوعی آسان‌تر کردن بازتولید نتایج تحقیقات منتشر شده‌است.[۱۶][۱۷] این پروژه ادعا می‌کند به کاربر، واسط کاربری ساده ای ارائه می‌نماید. فعلاً (در ژوئن 2017) gym فقط با پایتون قابل استفاده است.[۱۸] در سپتامبر سال ۲۰۱۷، صفحه مستندات سایت gym دیگر نگهداری نمی‌شود و به جای آن تمرکز روی صفحه گیت هاب gym قرار گرفته‌است.[۱۹]

ایگور مورداچ از اوپن‌ای‌آی استدلال می‌کند که رقابت بین عامل‌ها می‌تواند ایجاد یک «مسابقه تسلیحاتی» نماید که می‌تواند قابلیت عامل برای عمل، حتی خارج از محیط مسابقه را افزایش دهد. در RoboSumo، یک روبات مجازی انسان نما در ابتدا فاقد هرگونه دانشی است، حتی نحوه راه رفتن را هم نمی‌داند. سپس طی یک رقابت خصمانه، عامل یادمی‌گیرد که چگونه خود را با شرایطی که همواره در حال تغییر است انطباق دهد. پس از آنکه عامل از محیط رقابت خارج شد و در محیط جدیدی قرار گرفت، عامل استوار باقی می‌ماند که این بیاگر این خواهد بود که او ایجاد تعادل را به صورت عمومی فرا گرفته‌است.[۲۰][۲۱]

شرکت کنندگان

ویرایش

رئیس:[۲۲]

دیگر حامیان این پروژه عبارتند از:

کارکنان مطرح:

  • مدیر پژوهش: ایلیا Sutskever، متخصص سابق گوگل در یادگیری ماشین
  • گرگ براکمن: مدیر ارشد تکنولوژی

این گروه در اوایل ژانویه ۲۰۱۶ با نه پژوهشگر کار خود را آغاز کرده‌است. طبق گزارشی که در مجله Wired چاپ شده‌است، براکمن با یوشوا بنجیو یکی از بنیان‌گذاران یادگیری عمیق ملاقاتی داشته و طی آن لیستی از بهترین محققان در این زمینه را تهیه کردن است. پیتر لی از مایکروسافت اشاره می‌کند که: "هزینه یک محقق هوش مصنوعی بیش از هزینه یک بازیکن پست کوارتربک در بازی فوتبال آمریکایی است. گرچه پرداخت‌ها در اوپن‌ای‌آی در سطح شرکت هاست و نه موسسه‌های غیر انتفاعی، ولی با این حال با پرداخت‌ها در گوگل و فیسبوک قابل قیاس نیست. با این وجود Sutskever اظهار داشت که او حاضر به ترک گوگل و رفتن به اوپن‌ای‌آی است "بخشی به دلیل افرادی خیلی ماهری که روی این پروژه کار می‌کنند و گسترهٔ عظیمی که پروژه دارد". براکمن اظهار داشته‌است که "بهترین کاری که می‌توانم انجام دادنش را تصور کنم، حرکت دادن بشریت به سمت ساخت هوش مصنوعی است که ایمن باشد." یکی از محققین اوپن‌ای‌آی به نام Wojciech Zaremba اظهار داشته‌است که پیشنهادهای بسیار دیوانه واری را برای پیوستن به اوپن‌ای‌آی رد کرده‌است.

سوء استفاده سپاه

ویرایش

در فوریه ۲۰۲۴ مایکروسافت اعلام کرد که هکرهای سپاه پاسداران، و کشورهای دیگری مانند چین، روسیه، و کره شمالی از اوپن‌ای‌آی برای ردگیری و هدف‌گرفتن مخالفان خود استفاده می‌کنند.[۲۴]

جستارهای وابسته

ویرایش

منابع

ویرایش
  1. Lewontin, Max (14 December 2015). "Open AI: Effort to democratize artificial intelligence research?". The Christian Science Monitor. Retrieved 19 December 2015.
  2. Metz, Cade. "Elon Musk's Lab Wants to Teach Computers to Use Apps Just Like Humans Do". WIRED. Retrieved 31 December 2016.
  3. Mannes, John. "OpenAI's Universe is the fun parent every artificial intelligence deserves". TechCrunch. Retrieved 31 December 2016.
  4. "OpenAI - Universe" (به انگلیسی). Archived from the original on 1 January 2017. Retrieved 31 December 2016.
  5. Claburn, Thomas. "Elon Musk-backed OpenAI reveals Universe – a universal training ground for computers". The Register. Retrieved 31 December 2016.
  6. "Dota 2". blog.openai.com. Archived from the original on 11 August 2017. Retrieved 12 August 2017.
  7. Frank, Blair Hanley. "OpenAI's bot beats top Dota 2 player so badly that he quits". Venture Beat. Archived from the original on 12 August 2017. Retrieved 12 August 2017.
  8. "More on Dota 2". blog.openai.com. Archived from the original on 23 February 2019. Retrieved 16 August 2017.
  9. https://www.theverge.com/2018/2/21/17036214/elon-musk-openai-ai-safety-leaves-board
  10. «هشدار کارشناسان درباره خطر وجودی هوش مصنوعی برای بشریت». خبرگزاری میزان.
  11. «OpenAI خواستار تشکیل نهادی بین‌المللی شبیه به آژانس انرژی اتمی برای هوش مصنوعی شد». دیجیاتو. دریافت‌شده در ۲۰۲۳-۰۵-۲۴.
  12. "Tech giants pledge $1bn for 'altruistic AI' venture, OpenAI". BBC News. 12 December 2015. Retrieved 19 December 2015.
  13. "Silicon Valley investors to bankroll artificial-intelligence center". The Seattle Times. 13 December 2015. Retrieved 19 December 2015.
  14. Cade Metz (27 April 2016). "Inside OpenAI, Elon Musk's Wild Plan to Set Artificial Intelligence Free". Wired magazine (به انگلیسی). Retrieved 28 April 2016.
  15. "Sam Altman's Manifest Destiny". The New Yorker. No. 10 October 2016. Retrieved 4 October 2016.
  16. Dave Gershgorn (27 April 2016). "Elon Musk's Artificial Intelligence Group Opens A 'Gym' To Train A.I." Popular Science. Retrieved 29 April 2016.
  17. Greg Brockman; John Schulman (27 April 2016). "OpenAI Gym Beta". OpenAI Blog (به انگلیسی). OpenAI. Retrieved 29 April 2016.
  18. "OpenAI Gym". GitHub. Archived from the original on 28 January 2019. Retrieved 8 May 2017.
  19. Brockman, Greg (12 Sep 2017). "Yep, the Github repo has been the focus of the project for the past year. The Gym site looks cool but hasn't been maintained". @gdb (به انگلیسی). Retrieved 2017-11-07.
  20. "AI Sumo Wrestlers Could Make Future Robots More Nimble". Wired. 11 October 2017. Retrieved 2 November 2017.
  21. "OpenAI's Goofy Sumo-Wrestling Bots Are Smarter Than They Look". MIT Technology Review (به انگلیسی). Retrieved 2 November 2017.
  22. Kraft, Amy (14 December 2015). "Elon Musk invests in $1B effort to thwart the dangers of AI". CBS News. Retrieved 19 December 2015.
  23. Liedtke, Michael. "Elon Musk, Peter Thiel, Reid Hoffman, others back $1 billion OpenAI research center". San Jose Mercury News. Retrieved 19 December 2015.
  24. Raphael Satter (15 February 2024). "Microsoft says it caught hackers from China, Russia and Iran using its AI tools". Reuters (به انگلیسی).

پیوند به بیرون

ویرایش