Inou oblasťou, ktorá môže naplno využiť potenciál AI, je sofistikované napodobňovanie hlasu či vizuálnej podoby človeka označované termínom deepfake. Útočníkom stačí získať iba niekoľkosekundovú vzorku ľudského hlasu a dokážu vytvoriť hodnovernú nahrávku napríklad so žiadosťou o výkupné. V prípade napodobňovania fyzickej podoby človeka môže ísť napríklad o pornografické zábery alebo nahrávky poškodzujúce dobré meno obete. Dôveryhodné napodobnenie hlasu i fyzickej podoby človeka je však pomerne náročný proces vyžadujúci špecializované zdroje, softvér a skúsenosti. Preto sa cieľom tohto druhu útokov stávajú najmä vysokopostavené osoby a celebrity, pri ktorých panuje predpoklad, že za odvrátenie hrozby by mohli zaplatiť nemalé finančné prostriedky.
Poslednou oblasťou, kde možno využiť potenciál AI, je tvorba počítačového kódu. Nástroje ako ChatGPT používatelia využívajú na tvorbu rôznych programov či na kontrolu správnosti vlastných programov, preto existuje reálny predpoklad, že ich možno použiť aj na tvorbu škodlivého softvéru – malvéru. Na tvorbu malvéru sú však opäť potrebné predchádzajúce odborné vedomosti a skúsenosti. Je extrémne nepravdepodobné, že by malvér dokázal vytvoriť laik, ktorý s používaním AI iba začína.
Obrovský potenciál AI a neustále rastúci počet používateľov rôznych AI nástrojov priťahuje po celom svete pozornosť vrátane výziev na ich reguláciu. Európska únia začala v tomto smere podnikať kroky, keď v polovici júna tohto roku odsúhlasila prípravu smernice o umelej inteligencii. Členské štáty Európskej rady budú o jej konkrétnej podobe rokovať, už teraz je však jasné, že použitie AI na identifikáciu osôb v reálnom čase má byť zakázané.
