OpenAI
OpenAI je nezisková organizace pro výzkum umělé inteligence (AI), která se zaměřuje na opatrnou propagaci a vývoj open-source přátelské AI způsobem, který spíše pomůže než uškodí celému lidstvu. Jejím známým produktem je chatbot ChatGPT, schopný diskutovat prakticky na libovolné téma a vybavený velkou zásobou znalostí o světě. Založili ji Elon Musk a Sam Altman v roce 2015. Organizace se zaměřuje na „volnou/otevřenou spolupráci“ s dalšími institucemi a výzkum zachováváním svých patentů výzkumu[zdroj?] otevřeným veřejnosti. Společnost je podporována přislíbenou 1 miliardou amerických dolarů, ale předpokládá se, že jen malá část z celkové přislíbené částky bude utracena během prvních pár let. Motivací mnoha zaměstnanců a členů vedení jsou obavy z existenčního rizika umělé inteligence.
| OpenAI | |
|---|---|
 | |
| Zakladatel | Ilya Sutskever, Greg Brockman, Wojciech Zaremba, Andrej Karpathy, John Schulman, Elon Musk a Sam Altman |
| Vznik | 8. prosince 2015 |
| Právní forma | Delaware corporation a organizace podle 26 U.S.C. § 501(c)(3) |
| Sídlo | San Francisco, Spojené státy americké (Pioneer Building) |
| Souřadnice | 37°45′44″ s. š., 122°24′53″ z. d. |
| Správní rada | Shivon Zilis, Sam Altman, Reid Hoffman, Tasha McCauley, Helen Tonerová, Bret Taylor, Lawrence Summers a Adam D'Angelo |
| Aktiva | 20 mil. $ (2021) |
| Počet zaměstnanců | 375 (2023) |
| Oficiální web | openai |
 | |
 multimediální obsah na Commons | |
| Některá data mohou pocházet z datové položky. | |
Motivace
editovatNěkteří vědci, jako například Stephen Hawking a Stuart Russell věří, že pokud AI jednoho dne získá schopnost přestavovat sebe sama stále rostoucí rychlostí, mohl by nekontrolovatelný „výbuch inteligence“ vést k lidskému vyhynutí. Průmyslový magnát Elon Musk charakterizoval AI jako největší existenční hrozbu. Zakladatelé OpenAI vytvořili jako neziskovou a na finančních závazcích nezávislou, aby mohli soustředit svůj výzkum na tvoření pozitivního dlouhodobého dopadu na lidstvo.
OpenAI uvádí, že „je těžké odhadnout, jak moc může AI na úrovni člověka společnosti prospět,“ a je stejně obtížné si představit, „jak moc by mohla společnosti uškodit, pokud bude špatně navržena či použita“. Výzkum o bezpečnosti jejího využití nemůže být odkládán: „kvůli překvapivé historii AI je těžké předpovědět, kdy by mohla AI na úrovni člověka být k dispozici“. OpenAI prohlašuje, že AI „by měla být rozšířením vůlí jednotlivých lidí a v duchu svobody rovnoměrně šířena tak, jak je to jen možné...“ Druhý předseda Sam Altman očekává, že projektu bude trvat desítky let, než překoná lidskou inteligenci.
Vishal Sikka, ředitel společnosti Infosys prohlásil, že „otevřenost“, kde by byla snaha „produkovat výsledky pouze ve větším zájmu lidstva“, byla jednou ze základních podmínek jeho podpory a že OpenAI „se dobře shoduje s našimi dlouhodobými hodnotami“ a s jejich „dělat smysluplnou práci“. Cade Metz z Wired naznačil, že korporace jako Amazon mohou být motivovány touhou použít open-source software a dat k vyrovnání své pozice vůči korporacím jako Google a Facebook, které vlastní ohromné množství důvěrných dat. Altman prohlásil, že Y Combinator společnosti budou sdílet svá data s OpenAI.
Strategie
editovatMusk pokládá otázku: „Jak nejlépe můžeme docílit zajištění dobré budoucnosti? Můžeme zůstat na vedlejší koleji, povzbuzovat nesmyslné regulace, nebo se připojit se správnou strukturou a lidmi, kterým nejvíce záleží na vývoji AI bezpečným způsobem, který pomůže lidstvu“. Musk uznává: „Vždycky existuje určité riziko, že ve snaze vytvořit (přátelskou) AI můžeme stvořit přesně tu věc, které se obáváme,“ nicméně tou nejlepší obranou je „povzbudit co nejvíce lidí využívat možnosti AI. Pokud ji budou využívat všichni, nezbude žádný člověk nebo jen malá skupina jedinců, kteří by měli absolutní převahu díky AI.“
Muskova a Altmanova neintuitivní strategie pokusu o snížení rizika celkové škody, kterou by mohla AI napáchat pomocí poskytnutí open-source AI všem, je kontroverzní uvnitř komunity lidí jako Musk, kteří jsou znepokojeni existenčním rizikem plynoucím z pokročilé inteligence. Filozof Nick Bostrom je ohledně Muskova přístupu skeptický: „Pokud máte tlačítko, které může napáchat škody celému světu, tak ho nechcete dát každému.“
OpenAI Gym
editovat27. dubna 2016 vypustila OpenAI veřejnou beta verzi takzvané „OpenAI Gym“, platformy pro výzkum posíleného učení, která se zaměřuje na poskytnutí snadno nastavitelného testu obecné inteligence s širokou škálou různých prostředí (částečně podobných, ale širších než ImageNet Large Scale Visual Recognition Challenge použitých ve výzkumu supervised learning research). Chtějí tím dosáhnout standardizace způsobu, jakým jsou prostředí definována v publikacích AI výzkumu, díky čemuž by bylo možné publikovaný výzkum snáze reprodukovat.
Účastníci projektu
editovatDva spolu-předsedové projektu jsou:[1]
- Zakladatel Tesla Motors Elon Musk, jehož majetek se v roce 2015 odhadoval na 13 miliard dolarů[2], v roce 2018 rezignoval na své místo ve správní radě kvůli možnému střetu zájmů
- Sam Altman, president startup akcelerátoru Y Combinator
Dalšími podporovateli projektu jsou:[3]
- spoluzakladatel LinkedIn Reid Hoffman, jehož majetek se v roce 2015 odhadoval na 4 miliardy dolarů[2],
- spoluzakladatel PayPal Peter Thiel, jehož majetek se v roce 2015 odhadoval na 3 miliardy dolarů[2],
- Greg Brockman, bývalý technický ředitel společnosti Stripe,
- Jessica Livingston, zakládající partner startup akcelerátoru Y Combinator,
- Amazon Web Services, dceřiná společnost firmy Amazon poskytující cloudové služby,
- Infosys, Indická poradenská IT firma.
Vysoce postavený personál zahrnuje:
- ředitele výzkumu: Ilya Sutskevera, bývalého experta na strojové učení společnosti Google[3],
- ředitelku pro technologie OpenAI Miru Murati (od května 2022),
- technického ředitele společnosti: Greg Brockman[3].
Skupina započala svou práci na začátku ledna 2016 s týmem devíti výzkumníků. Podle magazínu Wired se Brockma potkal s Yoshuou Bengiem, jedním z „otců zakladatelů“ hlubokého učení a sestavili seznam „nejlepších výzkumníků v oboru“. Peter Lee ze společnosti Microsoft prohlásil, že hodnota nejlepších výzkumníků pokročilé inteligence přesáhla hodnotu nejlepších rozehrávačů Americké NFL. Přestože platy výzkumníků v OpenAI jsou na úrovni korporací (spíše než na úrovni neziskového sektoru), nedosahují momentálně takové výše, jakou by výzkumníci mohli mít ve společnosti Facebook či Google. Nicméně, Sutskever prohlásil, že byl ochotný opustit Google a přejít k OpenAI „částečně kvůli velmi silné skupině lidí a do značné míry kvůli jejich samotnému cíli.“ Brockam řekl, že „nejlepší věc, kterou jsem si dovedl představit, bylo posunutí lidstva blíže k vytvoření opravdové AI bezpečným způsobem.“ Výzkumník OpenAI Wojciech Zaremba prohlásil, že odmítl „s bláznovstvím hraničící“ nabídky dvojnásobku až trojnásobku jeho tržní hodnoty a místo toho se připojil k OpenAI.[4]
Reference
editovatV tomto článku byl použit překlad textu z článku OpenAI na anglické Wikipedii.
- ↑ KRAFT, Amy. Elon Musk invests in $1B effort to thwart the dangers of AI. www.cbsnews.com. CBS News, 14 December 2015. Dostupné online [cit. 19 December 2015].
- ↑ a b c LIEDTKE, Michael. Elon Musk, Peter Thiel, Reid Hoffman, others back $1 billion OpenAI research center. San Jose Mercury News. Dostupné online [cit. 19 December 2015].
- ↑ a b c Silicon Valley investors to bankroll artificial-intelligence center. The Seattle Times. 13 December 2015. Dostupné online [cit. 19 December 2015].
- ↑ Cade Metz. Inside OpenAI, Elon Musk’s Wild Plan to Set Artificial Intelligence Free. Wired magazine. 27 April 2016. Dostupné online [cit. 28 April 2016]. (anglicky)
Externí odkazy
editovat
Obrázky, zvuky či videa k tématu OpenAI na Wikimedia Commons - Oficiální stránky projektu
- Rozhovory v angličtině
