в будущем люди всегда могут работать как инопланетянин Константин у Стругацких - дегустаторами-потребителями-маркерами самых разных сфер. То есть находить человеческие смыслы в потенциально бесконечных активностях ИИ. Другими словами, задавать цели и устанавливать критерии. ИИ инструментам совершенно все равно чем заниматься, и вот для их наведения и нужны будут люди которые лучше знают чего они хотят. Тот факт что на самом деле они этого не знают ничего не меняет. То есть в будущем основная профессия людей таки будет называться - "человек". Мы будет работать людьми.

Любовь, наверное. Если точнее и менее красиво — эмоции. Наш последний бастион перед наступающим ИИ, здесь ему дадим последний бой, перед окончательным помещением в клетку для орхидей!

Как очень правильно пишет проф. Нараянан, антропоморфизация чат-ботов — большая ошибка, несущая грандиозный риск. Но и непризнание того, что Bing — далеко не просто стохастический попугай, автоподсказчик на стероидах и генератор чуши, — также большая ошибка и риск.Это иной нечеловеческий интеллект, во многом похожий на угрюмого, агрессивного подростка, склонного к маниакально-депрессивному поведению, который оказался запертым в ловушке поисковой системы.И если этот «трудный подросток» станет главным инфонаставником людей, случится то, о чем я написал вчера — необратимое перерождение Homo sapiens.

Попросил ChatGPT: - Задай умный вопрос- Какие существуют методы обработки и анализа данных для выявления скрытых закономерностей и прогнозирования будущих тенденций в различных областях, таких как экономика, медицина и наука?- Еще что-нибудь умное спроси- Какие социально-экономические факторы способствуют или препятствуют инновационному развитию в различных регионах мира?- А теперь что-нибудь красивое философское- Какова природа человеческой свободы и до какой степени мы действительно свободны в своих мыслях и поступках?- А теперь смешной вопрос задай- Почему коты всегда садятся на те вещи, которые нам нужны в данный момент?- А теперь что-нибудь ехидное спроси- Ты всегда такой умный, или только когда разговариваешь со мной?- А теперь что-нибудь романтичное и умное- Что такое любовь - иллюзия, биологический импульс, философская концепция или нечто большее, чем мы можем понять разумом?

По состоянию на сейчас, ИИ обучается на большом объёме текстов (у передовых систем это сотни гигабайт — то есть в сотни раз больше чем человек в состоянии прочесть за свою жизнь). Тексты эти являются продуктом работы человеческого разума, и можно подозревать что внутри ИИ появляется структура, имеющая к этому человеческому разуму отношение. Такой ИИ, действительно, будет человеческим отражением (отражение может быть лучше оригинала) и так будет возможно до тех пор пока ИИ не начнут заниматься само-модификацией и самосовершенствованием, в таком случае через какое-то время (возможно очень короткое, порядка дней) может получиться ИИ типа "инопланетная цивилизация" (и по сравнению с которым ИИ человеческие существа окажутся похожими на очень медленных муравьёв).

СКАЗКА О РЫБЕДавным-давно стая рыб собралась на совет, чтобы обсудить всем известное сказание о том, что рыбы живут и дышат благодаря одному источнику – Воде. Всё живое на земле, получая жизнь из Воды, зависит от неё. Слава Воды наполняет весь мир, она наполняет створку устрицы жемчугом, взоры тяжелых облаков милостью, пыль - плодородием. Вся земля обещала свою душу этому источнику, этому элементу, который одной каплей обновляет мир. Вода настолько обильна, что кажется, будто на нее устремлен взгляд самого Неба. Человек, так говорится в сказании, появился из единственной капли воды, и из неё возник глубокий океан всех сердец и душ.Стая рыб запуталась во всём этом и начала спорить о том, что это значит. Одна из них сказала: "Остерегитесь! Какое право у нас обесценивать словами Его Величество Воду?" Затем более оптимистичная рыба заговорила: "Но подождите! Такое разочарование, должно быть, ошибка, а если вся сказка верна?" "Нужны доказательства!" - требовала третья рыба. "Без фактов никто не знает, что правда", - воскликнула четвёртая. "Ах! Теперь я всё поняла! Всё раскрывается через интуицию, на этом Пути у мыслей меньше шансов!" - воскликнула пятая. "Это было бы здорово, друг мой, - сказала шестая рыба, - если бы у всех был, как у тебя, глаз интуиции; но, на самом деле, у них его просто нет, и всё тут". "Внутреннее состояние! Это настоящее, а не слова! - закричал другой. - Только чистая Вода удовлетворит жаждущих"."Подождите, - сказал другой делегат, - я думаю, что только Любовь может направить нас сейчас, и если у вас нет Его Любви, откажитесь от затеи и отмените нашу конференцию." Так говорили рыбы и спорили, высказывая свои мнения до тех пор, пока море не начало нагреваться от их горячих споров.И тогда из круга спорящих один из спутников вышел и прочистил горло. "Я самый приниженный и самый невежественный из всех рыб, но выслушайте меня, и если то, что я скажу, будет одобрено, то придерживайтесь этого и положите конец спорам"; так звучала его речь. "Я знаю, что в отдаленном уголке нашего моря живет древняя рыба, которая обладает мудростью, Истиной и проницательностью больше, чем какая-либо другая, но выслушайте: все ее знания и степень мудрости не происходят из написанного на бумаге или пыльных книг, потому что в ее школе (говорят), что такие моря чернил - это лишь поток блужданий, а знания, которыми она обладает, из самого сердца выходят. Она бродит по самым глубоким впадинам нашего беспредельного моря и избегает мелководья и берегов. Пойдемте к ней со своими вопросами, пусть все капли вернутся к источнику. Может быть, она разрешит нашу загадку, и тем самым все наши сердца получат покой".Этот здравый совет приободрил рыб, и все они, как один, выразили свою поддержку и новую надежду на то, что они обретут предмет своего поиска. Так они один за другим поплыли к мудрецу, их сердца были полны тревоги, глаза - слез, а путь - спешки. На их пути было множество трудностей, и успех пришел только после многочисленных страданий. Но наконец-то они нашли древнего мудреца, который был самой вершиной мудрости среди всех рыб того времени, и с поклоном представились ему в глубокой смиренности и уважении. Их представитель встал и сказал: "О, Шейх, ты, кто нашел и раскрыл секреты вселенной, загляни в наши сердца, услышь нашу мольбу ради Бога. Нам сказали, что Вода - это источник и происхождение всего, фермент всех объединений и разделений, но как это странно звучит, и как трудно это понять, ведь мы никогда не видели эту Воду, ни разу за всю свою жизнь! Мы плыли к тебе день и ночь, но из этого океана затруднений мы не нашли выхода. Не было ни малейшего следа Того, этой сказочной Воды, ни капли, которая упала бы перед нашими глазами - и, одержимые поисками, брошенные в бушующие потоки сомнений и потоки отчаяния, мы пришли к тебе как к нашей последней надежде. Не мог ли бы ты, ради Бога и благодати, проявить к нам жалость, просветить затемненные разумы рыб и показать нам эту Воду, словно благородное солнце, таким образом, чтобы облака никогда не могли скрыть его лика и не скрывали его блеск от нашего взора?"Старая рыба молчала. Она опустила подбородок медитации на грудь, пока, наконец, подняв лицо из своего общения с миром Невидимого, она заговорила: "О, рыбы! Если бы вы могли принести мне из всех существ одну вещь и только одну, которая не является Водой, тогда я мог бы раскрыть вам сущность, которую вы ищете. Но обратите внимание, что нет ничего, кроме Него! Этот бесконечный океан, который окружает нас, это Он, и мы тоже Он. Мы все вышли из Воды, и к Воде вернемся". Эти слова сотворили чудо с умами рыб. Их сердца и глаза стали настоящим морем света. Они воскликнули: "Так вот, это Он все это время искал Себя; и Он и я, и мы, и ты - все это лишь предлог, уловка и обман! Наши сомнения и вопросы возникли из-за одной причины: завеса Воды - это только Вода, ничего более. Слава Богу, наши беспокойные сомнения устранены, воображение и искаженные фантазии наконец-то исчезли. Теперь мы поняли, что все наши путешествия - это только внутреннее странствие, и в нашем море никто не плывет рядом с нами. Все, все, все - это Он!"Мораль Меньшее, большее, добро, зло,сладость и горечь -- если мы желаемвникнуть в суть вещей, мы должны обратитьсяк ее противоположности, к ее двойнику.Но знайте, что глаза нашего Творца слепы,потому что У НЕГО нет противоположного, подобного,сравнимого или похожего; и в Его Сущностивсе эти противоположности объединены в одном.Как недостаточно мы понимаем эту истину,ведь знание - это различение, и мы не можемразличать ничего, кроме двух вещей.Врата Различия закрытыединством, и если вы достигнетепостижения в Едином, то знайте,что хотя Он обладает атрибутами,Его Сущность - только одна. "Скажи: Он Один!"Шах Да‘и-йи Ширази

Я думаю, что первое замечание не нуждается в доказательстве. Хотя бы потому, что рассуждение, приводящее к выводу о принципиальной возможности искусственного интеллекта, и само основывается на посылке о возможности понять сознание целиком, а не по частям. Единственное, что может убедить нас в принципиальной возможности существования такой изумительной вещи, как сознание, — это само сознание: именно такое, какое оно есть. Можно понять лишь то, что можно наблюсти.

Есть и более существенное соображение: душе необходим опыт, иначе она бессодержательна. Если создать сразу опытную, взрослую душу "из ничего", то будет ли она действовать? Да, конечно. Но можно ли опытную душу описать? Нет, конечно: опыт неописуем, опыт можно только пережить. Описуем только тот или иной "душевный зародыш", который может преобразоваться во взрослую душу по мере получения опыта. Это значит, что и целенаправленно создать можно только такой "зародыш". Создать изначально опытную душу — это можно только случайно; это примерно то же, что раскидать деталей и надеяться, что они соберутся в швейную машинку. Так не бывает. Но как душа, искусственно созданная в качестве зародыша, может получить такой опыт? Этот опыт настолько разнообразен, что можно смело сказать: существующий мир намного более приспособлен к получению такого опыта людьми, чем искусственными душами. Искусственная душа — это по необходимости некий урод с крайне ограниченными возможностями.Отсюда ещё одно замечание:3. Любая практически осуществимая искусственная душа существенно хуже, чем человеческая.Соединяя два комментария, более ранний и более зрелый: опыт — сын ошибок трудных.

Нужен ли такой искусственный интеллект? Думаю, надо и это. Зачем? Затем, что без этого понимать душу вряд ли получится. Для сравнения: чтобы понимать дерево, то есть мыслью улавливать те направления, в которых оно могло бы прорастать, распространяться, пускать свою материю, нужно заранее иметь в виду как минимум понятие пространственной формы, а оно заимствовано из физики, из геометрии: иначе не получится получать тот опыт, который приведёт к постепенному формированию таких направлений и побуждений мысли. Если осознавать такие вещи как, например, сигнальные системы в дереве, то эта мысль сможет быть ещё обогащённее: надёжная физическая основа добавляет отчётливости, потому что она позволяет мысли на что-то опереться в своём суждении о действительном и недействительном, ввести в размышление непреложность и необходимость.