Viac ako tisíc odborníkov na umelú inteligenciu a ďalšie osobnosti z technologickej oblasti vrátane Elona Muska žiadajú v otvorenom liste o polročné pozastavenie ďalšieho vývoja umelej inteligencie, ktorá by bola na vyššej úrovni ako nedávno predstavený model GPT-4 od OpenAI. Mohlo by to byť nebezpečné, varujú.
„Výkonné systémy umelej inteligencie by mali byť vyvíjané iba vtedy, keď sme si istí, že ich účinky budú pozitívne a ich riziká budú zvládnuteľné,“ stojí v otvorenom liste neziskovej organizácie Future of Life Institute, ktorý podpísalo viac ako tisíc osobností zo sveta technológií a odborníkov na umelú inteligenciu.
Dokument vyzýva k polročnému pozastaveniu vývoja pokročilej umelej inteligencie, kým nebudú vyvinuté, implementované a nezávislými odborníkmi preverené súvisiace bezpečnostné protokoly.
Odborníci ďalej upozorňujú na potenciálne riziká, ktoré pokročilý „ľuďom konkurencieschopný“ AI systém pre spoločnosť predstavuje v otázkach ekonomických a politických. Apelujú na vývojárov, aby spolupracovali s regulačnými orgánmi. Inými slovami, ľudstvo potrebuje čas sa na príchod umelej inteligencie pripraviť, čo pri súčasnej dynamike jej vývoja nie je možné.
List prichádza v čase, keď sa európsky orgán Europol v pondelok pripojil k diskusii o etických a právnych obavách ohľadom pokročilej umelej inteligencie, ako je ChatGPT. Vyzdvihované sú predovšetkým obavy z potenciálneho zneužitia systému pri pokusoch o phishing, dezinformácie a kyberzločin. Musk, ktorého automobilka Tesla používa umelú inteligenciu pre systém autonómneho riadenia vozidiel, vyjadril obavy z ďalšieho vývoja.
ChatGPT od Microsoftom podporovaného OpenAI od minuloročného vydania podnietil konkurentov k urýchleniu vývoja podobných jazykových modelov a ich integrácii do produktov pre bežných užívateľov.
Sam Altman, výkonný riaditeľ OpenAI, list nepodpísal, povedal agentúre Reuters hovorca Future of Life. Spoločnosť OpenAI na žiadosť agentúry Reuters o reakciu zatiaľ neodpovedala.
„List nie je dokonalý, ale duch je správny. Musíme spomaliť, kým lepšie nepochopíme dôsledky,“ povedal Gary Marcus, emeritný profesor na New York University, ktorý list podpísal. Rovnako ako Emad Mostaque zo Stability IO, vývojári zo spoločnosti DeepMind (tj. Alphabet/Google), alebo jedny z kľúčových postáv vývoja AI Joshua Bengio a Stuart Russell.