Elon Musk. FOTO: Reuters
StoryEditor

Zastavte vývoj umelej inteligencie na pol roka, žiada Musk a tisíc expertov. Varujú pred nebezpečenstvom

29.03.2023, 11:48
Autor:
redred

Odborníci upozorňujú na potenciálne riziká, ktoré pokročilý „ľuďom konkurencieschopný“ AI systém pre spoločnosť predstavuje v otázkach ekonomických a politických.

Viac ako tisíc odborníkov na umelú inteligenciu a ďalšie osobnosti z technologickej oblasti vrátane Elona Muska žiadajú v otvorenom liste o polročné pozastavenie ďalšieho vývoja umelej inteligencie, ktorá by bola na vyššej úrovni ako nedávno predstavený model GPT-4 od OpenAI. Mohlo by to byť nebezpečné, varujú.

„Výkonné systémy umelej inteligencie by mali byť vyvíjané iba vtedy, keď sme si istí, že ich účinky budú pozitívne a ich riziká budú zvládnuteľné,“ stojí v otvorenom liste neziskovej organizácie Future of Life Institute, ktorý podpísalo viac ako tisíc osobností zo sveta technológií a odborníkov na umelú inteligenciu.

image

Umelá inteligencia by mohla nahradiť stovky miliónov pracovných miest, predpokladá americká banka

Dokument vyzýva k polročnému pozastaveniu vývoja pokročilej umelej inteligencie, kým nebudú vyvinuté, implementované a nezávislými odborníkmi preverené súvisiace bezpečnostné protokoly.

Odborníci ďalej upozorňujú na potenciálne riziká, ktoré pokročilý „ľuďom konkurencieschopný“ AI systém pre spoločnosť predstavuje v otázkach ekonomických a politických. Apelujú na vývojárov, aby spolupracovali s regulačnými orgánmi. Inými slovami, ľudstvo potrebuje čas sa na príchod umelej inteligencie pripraviť, čo pri súčasnej dynamike jej vývoja nie je možné.

List prichádza v čase, keď sa európsky orgán Europol v pondelok pripojil k diskusii o etických a právnych obavách ohľadom pokročilej umelej inteligencie, ako je ChatGPT. Vyzdvihované sú predovšetkým obavy z potenciálneho zneužitia systému pri pokusoch o phishing, dezinformácie a kyberzločin. Musk, ktorého automobilka Tesla používa umelú inteligenciu pre systém autonómneho riadenia vozidiel, vyjadril obavy z ďalšieho vývoja.

image

Bill Gates: Umelá inteligencia je mojou druhou revolúciou, ale strážme ju

ChatGPT od Microsoftom podporovaného OpenAI od minuloročného vydania podnietil konkurentov k urýchleniu vývoja podobných jazykových modelov a ich integrácii do produktov pre bežných užívateľov.

Sam Altman, výkonný riaditeľ OpenAI, list nepodpísal, povedal agentúre Reuters hovorca Future of Life. Spoločnosť OpenAI na žiadosť agentúry Reuters o reakciu zatiaľ neodpovedala.

„List nie je dokonalý, ale duch je správny. Musíme spomaliť, kým lepšie nepochopíme dôsledky,“ povedal Gary Marcus, emeritný profesor na New York University, ktorý list podpísal. Rovnako ako Emad Mostaque zo Stability IO, vývojári zo spoločnosti DeepMind (tj. Alphabet/Google), alebo jedny z kľúčových postáv vývoja AI Joshua Bengio a Stuart Russell.

01 - Modified: 2023-03-18 08:37:54 - Feat.: 1 - Title: Chatbot s umelou inteligenciou, ktorý vyvolal ošiaľ prichádza v ďalšej verzii. Je ešte múdrejší 02 - Modified: 2023-03-16 09:31:40 - Feat.: 1 - Title: Náš čip ušetrí gigantom miliardy, hovorí pre HN Slovák, ktorého firma prichádza s prevratnou novinkou 03 - Modified: 2023-03-15 14:00:07 - Feat.: 0 - Title: Stáva sa umelá inteligencia nástrojom dehumanizácie? 04 - Modified: 2023-03-10 23:00:00 - Feat.: 1 - Title: Financial Times: Umelá inteligencia môže zatriasť realitným trhom 05 - Modified: 2023-03-09 16:12:26 - Feat.: 1 - Title: Umelá inteligencia zneužije váš hlas a zmanipuluje vašich blízkych. Podvodníci majú nový zákerný trik 06 - Modified: 2023-03-07 15:00:00 - Feat.: 1 - Title: Kto vytvorí lepšiu umelú inteligenciu? Do pretekov o dominanciu sa zapojilo viacero najväčších firiem
01 - Modified: 2024-11-14 16:01:06 - Feat.: - Title: OpenAI umožní umelej inteligencii ovládať namiesto používateľa počítač 02 - Modified: 2024-11-13 14:21:18 - Feat.: - Title: The Guardian odchádza zo siete X, vadí mu Muskov vplyv na jej obsah. Je to toxická mediálna platforma, tvrdí 03 - Modified: 2024-11-13 12:47:13 - Feat.: - Title: Erdogan odmieta obnoviť obchod s Izraelom, nevylúčil spoluprácu s Muskom 04 - Modified: 2024-11-13 12:27:17 - Feat.: - Title: Donald Trump si vybral Elona Muska ako šéfa pre efektivitu vlády 05 - Modified: 2024-11-13 12:00:00 - Feat.: - Title: Náš mobil by bol najlepším konkurentom pre Apple a Google, vyhlásil šéf Tesly Elon Musk
menuLevel = 2, menuRoute = style/tech, menuAlias = tech, menuRouteLevel0 = style, homepage = false
14. november 2024 17:18