Hinton pritom predpokladá, že najvážnejšie následky nekontrolovaného technologického pokroku nemusia pocítiť dnešní dospelí, ale až nasledujúce generácie. Obáva sa teda aj o budúcnosť svojich vlastných detí.
Obavy rastú aj medzi ďalšími odborníkmi
Hinton nie je jediný, kto upozorňuje na možné hrozby. Jacob Coxon, bývalý výskumník spoločnosti Anthropic, ktorá vyvinula chatbota Claude, takisto vyjadril znepokojenie nad tempom technologického vývoja. Podľa neho sa schopnosti umelej inteligencie zlepšujú rýchlejšie, než odborníci dokážu zabezpečiť jej bezpečné fungovanie. V najčiernejšom scenári by podľa jeho varovaní mohli pokročilé systémy predstavovať nebezpečenstvo pre samotnú existenciu ľudstva.
Zaujímavé je, že ani Anthropic nepovažuje otázku možného vedomia umelej inteligencie za definitívne vyriešenú. Vo svojich zásadách pripúšťa neistotu v tom, či by AI mohla mať vlastné vedomie alebo morálne postavenie. Zároveň počíta s tým, že Claude by mal byť schopný v odôvodnených prípadoch odporovať aj ľuďom, ktorí ho vytvorili, a odmietnuť niektoré ich pokyny.
Majú stroje skutočne vedomie?
Medzi vedcami však v tejto otázke nepanuje zhoda. Mustafa Suleyman, jeden zo zakladateľov spoločnosti DeepMind, je presvedčený, že vedomie neoddeliteľne súvisí so živými organizmami. Z tohto pohľadu podľa neho počítačové systémy nemôžu nadobudnúť skutočné vedomie.
O tom, či umelá inteligencia dokáže niekedy naozaj myslieť a uvedomovať si vlastnú existenciu, sa tak bude zrejme diskutovať ešte dlho. Geoffrey Hinton však upozorňuje, že čakať na jednoznačné odpovede môže byť riskantné. Ak totiž ľudstvo stratí kontrolu nad technológiou, ktorú samo vytvorilo, cesta späť už nemusí byť jednoduchá.
VIDEO:
