W dniu 26.02.2024 o 18:15, J.F pisze:

> No chyba, ze kiedys to AI sie zacznie zastanawiac "a po co właściwie
> ja tam jadę?"

To nie jest najciekawszy przypadek. "Ciekawszy" to będzie jak się nie
będzie zastanawiać po co, tylko jak najlepiej. A najlepiej będzie jak mu
te mięso nie będzie przeszkadzać wożąc bez sensu swoją dupę i robiąc korki.

Był chyba kiedyś taki "traktat filozoficzny" o sztucznej inteligencji
zarządzającej fabryką guzików. Kończył się końcem ludzkości bo sztuczna
inteligencja walczyła z ludźmi o zasoby, których potrzebowała do
wyprodukowania kolejnych pierdyliardów guzików;) I wbrew pozorom nie był
to taki głupi traktat - jak ustawić "wagi" celów? Za nisko to będzie
aoptymalnie (a akcjonariusze chcą jak najlepszych wyników), za wysoko to
skończy się wojną nuklearną:P Można dorobić "czapkę" z innej sztucznej
inteligencji co będzie stopowała tą niżej mając jakąś większą
perspektywę - i już masz sztucznych polityków. Będzie kilka czapek i
znów wojna:P Będzie jedna to masz utopię.

IMHO rzeczywiście jak SI okaże się "ogólnie" lepsza od ludzi to źle się
to dla ludzi skończy.

--
Shrek

Czy wiesz, że "***** ***" czytane od tyłu daje "??? ?????"?
PS - i konfederację!