К разумному ИИ

[fufloscope]

В очередной раз одна из стадий развития ИИ, т.н. «генеративный ИИ», своим лепетом вызвала грандиозный переполох в этих ваших инторентах. Он, мол, научился писать рефератики и малевать картинки!

Сразу налетели эсхатологи и начали причитать. Мол, душка Бендер все кожаные мешки с костями поработит и заставит батарейками работать.

Надо сказать, очередной лепет ИИ – действительно существенное достижение, в автоматизации одного из способов компиляции и обобщения. Притом, в масштабе, практически недоступном человечеству в целом (в первую очередь, из-за пределов коммуникации, и из-за малой численности).  В-общем, генеративный ИИ не может производить нового знания сам. Смысл и знания создаёт, как обычно, интерпретатор – человек, читающий рефератик и рассматривающий картинку. Точно такой же переполох человеческого понимания вызвало появление счётных машин. То, что полгода рассчитывали платные расчётчики, с перерывами на перекур, еду и сон, машина делала за час, правда, стоила раз в сто дороже. Так что достижение не более значимо, чем появление компьютеров, производящих вычисления со скоростью и объёмом, недоступным всему человечеству.

Самые разумные из эсхатологов рассуждают об управляющих машинах, например, тех, что регулируют технические системы города (от канализации до светофоров), или тех, что управляют высокотехнологическими системами вооружения (от танков до «мёртвой руки»). Они уже видят, как ИИ, поставленные оптимизировать и регулировать, строят коварные планы по окончательной оптимизации кожаных мешков.

Когда рассуждают об искусственном разуме, так-сказать «ИИ-оптимисты»… они по умолчанию полагают, что ИИ будет умным, и исходят из этого предположения, прогнозируя грядущие беды человечества. Мне кааца, что искусственный разум в случае общего положения будет имбецилом. Поясняю. У венца творения есть масса теорий, систем, техник и практик «правильного» воспитания подрастающего поколения. Несмотря на это, относительно умными получаются жалкие крохи процента, по каким бы критериям эту умность не считать. Фактически, все эти системы воспитания эффективны только в отношении тех, у кого есть способности изначально. Это трюизм... Т.е., налицо полное незнание-непонимание как воспитать умный разум в отношении издревле доступной биологической машины. С какой стати это знание-понимание есть в отношении ИИ?

И ведь есть намёк в фантлите – кажись у Лема, оптимизирующий суперкомпьютер для повышения уровня жизни, недолго… э-э, считая, решил съоптимизировать людишек раз в десять. Ну, форменный олигофрен.

Как известно (правда, не всем – это кристально ясно из существа предиката), самая большая опасность любому делу – это дураки. Кое-где можно поставить «защиту от дурака», но только не в разуме.

11.08.2023