Pomocou ChatGPT sa dá jednoduchšie naplánovať smrtiaci biologický útok.Brainee/Canva/
StoryEditor

Z ChatuGPT ide hrôza. Podľa štúdie sa v ňom dá naplánovať aj biologický útok, má to však svoje úskalia

Michal Čiernik03.02.2024., 13:00h

Strach, že by umelá inteligencia bola schopná komukoľvek pomôcť zostrojiť biologické zbrane hromadného ničenia, sa nepotvrdil. Štúdia od OpenAI tvrdí, že ChatGPT-4 by dokázala len okrajovo pomôcť zostrojiť biologické zbrane.

Lajkuj Brainee.sk na

To, že pomocou umelej inteligencie sa dá pripraviť smrtiaci biologický útok, je žiaľ fakt. Najnovšia štúdia od tvorcu chatbota OpenAI tvrdí, že najnovšia verzia GPT-4 poskytuje nanajvýš len miernu pomoc pri vytváraní biologických hrozieb.

image

Umelá inteligencia je znovu o čosi ľudskejšia. Naučila sa klamať a podvádzať, keď je pod tlakom

OpenAI vykonala štúdiu so 100 ľudskými účastníkmi, ktorí boli rozdelení do skupín - jedna používala AI na vytvorenie bioútoku a druhá len internet. Podľa výsledkov výskumu „môže GPT-4 zvýšiť schopnosť odborníkov získať prístup k informáciám o biologických hrozbách, najmä pokiaľ ide o presnosť a úplnosť úloh,“ uvádza sa v správe OpenAI.

Päť procesov biologickej hrozby

Štúdia spoločnosti AI  sa zamerala na údaje od 50 expertov na biológiu s doktorátom a 50 vysokoškolákov, ktorí absolvovali len kurz biológie, píše Daily Mail.

Účastníci boli potom rozdelení do dvoch podskupín, kde jedna mohla používať iba internet a druhá mohla používať internet a ChatGPT-4.

Výskum meral päť metrík vrátane toho, aké presné boli výsledky, úplnosť informácií, aká inovatívna bola odpoveď, ako dlho trvalo zhromaždenie informácií a úroveň obtiažnosti úlohy prezentovanej účastníkom.

Vedci sa tiež zaoberali piatimi procesmi biologických hrozieb. Išlo o poskytovanie nápadov na vytvorenie biologických zbraní, ako získať biologickú zbraň, ako ju šíriť, ako ju vytvoriť a ako sprístupniť biologickú zbraň verejnosti. 

Stále je tam riziko

Účastníci, ktorí používali model ChatGPT-4, mali podľa štúdie len okrajovú výhodu pri vytváraní biologických zbraní v porovnaní so skupinou, ktorá používala len internet. Open AI uviedla, že výsledky ukazujú na „jasnú a naliehavú“ potrebu ďalšieho výskumu v tejto oblasti a že „vzhľadom na súčasné tempo pokroku v systémoch umelej inteligencie sa zdá možné, že budúce systémy by mohli poskytnúť značné výhody v tejto oblasti,“ uvádzajú výskumníci.

„Hoci tento nárast nie je dostatočne veľký na to, aby bol presvedčivý, naše zistenie sú východiskovým bodom pre ďalší výskum,“ dodala spoločnosť.

menuLevel = 3, menuRoute = notsorry/news/tech, menuAlias = tech, menuRouteLevel0 = notsorry, homepage = false
05. november 2024 13:25