Umelá inteligencia sa odtrhla z reťaze: Desivé, čo sa jej podarilo naučiť! Vedci len neveriacky krútia hlavami
6. 6. 2024, 16:15
Zdroj: iStock
Zrejme vám je jasné, že nie všetko, čo vyprodukuje umelá inteligencia, treba brať s plnou vážnosťou. Existuje však jeden dôvod, prečo by ste mali byť ešte opatrnejší. Výskum ukázal, že mnohé systémy využívajúce umelú inteligenciu nadobudli schopnosť podávať falošné informácie.
Zdá sa, že umelá inteligencia ovládla umenie klamstva, píše portál ScienceAlert. “Vývojári nateraz nevedia, čo spôsobuje takéto neželané správanie umelej inteligencie,” uviedol matematik a vedec Peter Park z americkej univerzity MIT. Dodáva, že umelá inteligencia klame, pretože jej to pomáha dosiahnuť jej ciele.
Oblasť, v ktorej sa to prejavuje najviac, sú počítačové hry. V tejto súvislosti sa často spomína systém CICERO od spoločnosti Meta. CICERO je ukážkovým klamárom, najmä pri hraní hry Diplomacia, v ktorej sa hráči snažia ovládnuť svet cez vyjednávanie. Hoci zámerom spoločnosti Meta bolo, aby bol robot úprimný a nápomocný, stal sa presný opak. Ba čo viac, nakoniec sa umiestnil v 10 % najlepších hráčov. A nie je v tom sám. To isté platí pre systém Pluribus, ktorý dokáže pri hraní pokeru fantasticky blafovať.
Schopnosť klamať predstavuje pri umelej inteligencii problém, na ktorý zatiaľ nemáme riešenie. Hoci niektoré štáty a štátne zoskupenia už ohlasujú prípravu relevantnej legislatívy, až čas ukáže, či pôjde o efektívny nástroj regulácie tohto segmentu. Niektorí odborníci dokonca navrhujú úplný zákaz umelej inteligencie v záujme ochrany spoločnosti.
Autor: © Nový Čas, mxp