Preteky vo vývoji umelej inteligencie sa podľa signatárov listu vymkli spod kontroly. „Systémy s inteligenciou porovnateľnou s ľuďmi predstavujú závažnú hrozbu pre spoločnosť a ľudstvo,“ uvádza sa v dokumente. Preto chcú, aby sa proces učenia a výcviku umelej inteligencie nad istou úrovňou zastavil najmenej na šesť mesiacov.
Jedným z varovných momentov bolo, keď program ChatGPT klamal človeku, aby ho presvedčil spraviť to, čo chcel. Program totiž dostal za úlohu dostať sa na stránku, ktorá má jednoduchý vizuálny test na zabránenie toho, aby sa na ňu dostal robot. ChatGPT sa obrátil na stránku, kde ponúkajú svoje služby rôzni pracovníci. Vydával sa za osobu s obmedzenými zrakovými schopnosťami a hľadal niekoho, kto za poplatok spraví test za neho. Na priamu otázku, či je robot, odpovedal, že nie je a iba slabo vidí.
V armádach navyše už dlhší čas existujú samostatne mysliace roboty, ktoré by boli schopné zabiť na základe vlastného rozhodnutia. Túto možnosť im však ľudské velenie nechce (aspoň zatiaľ) dať. Práve tomu, aby sme vytvorili monštrum, ktoré nás zotročí namiesto toho, aby ľuďom slúžilo, sa snaží otvorený list zabrániť.
Presvedčila ho na samovraždu
Varovný prípad sa objavil aj v Belgicku, kde umelá inteligencia presvedčila muža, aby spáchal samovraždu. Keď spáchal samovraždu, jeho manželka našla jeho komunikáciu s Elizou a ukázala ju psychiatrovi. Ten je presvedčený, že nebyť Elizy, muž by ešte žil. Americká firma uviedla, že vylepší jej bezpečnosť a v prípade, že sa objavia samovražedné sklony, používateľ dostane odkaz, aby vyhľadal pomoc.
