Presná definícia
Čo znamená superinteligencia?
Superinteligencia je hypotetická inteligencia, ktorá výrazne prevyšuje najlepšie ľudské schopnosti vo väčšine kognitívne relevantných oblastí, nielen v jednej špecializácii. Pojem sa týka úrovne a šírky kompetencie; neimplikuje konkrétnu architektúru, vedomie, ciele ani morálnosť. Jednotlivý nadľudský výkon v šachu, výpočte alebo pamäti nie je superinteligenciou v tomto širokom zmysle.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Pojem sa používa najmä pri scenároch dlhodobého riadenia rizík, nie ako bežná produktová kategória. Analýza má oddeliť pozorované schopnosti, extrapolované zlepšenia a špekulatívne predpoklady o autonómii či prístupe k zdrojom. Namiesto jedného skóre sa skúmajú mechanizmy, ktoré by umožnili rýchly rast schopností, a bariéry ako dáta, energia, experimenty a koordinácia. Opatrenia sa navrhujú podľa konkrétnej cesty rizika - obmedzenie oprávnení, monitorovanie, hodnotenie schopností a viacvrstvová kontrola - bez predstierania, že samotný názov určuje pravdepodobnosť scenára.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Je šachový program superinteligentný?
Nie v širokom význame; má nadľudský výkon v jednej úlohe bez všeobecnej prevahy.
Aký je vzťah k AGI?
AGI označuje širokú všeobecnú kompetenciu; superinteligencia pridáva výrazné prekročenie ľudskej úrovne.
Mala by superinteligencia automaticky dobré ciele?
Nie. Schopnosť riešiť problémy neurčuje, aké ciele systém sleduje.
Ako by sa merala?
Viacrozmerným porovnaním s najlepšími ľudskými výkonmi, vrátane nových úloh, nákladov, spoľahlivosti a adaptácie.
Je superinteligencia vedecký fakt?
Je to definovateľná hypotetická kategória a predmet scenárov; jej vznik ani časovanie nie sú empiricky potvrdené.