Про искусственный интеллект

А еще понравилось (где-то читала):

- У вас на работе используют ИИ?

- Да что ты. У нас и естественным не пользуются

В интервью с Лексом Фридманом Маск сказал, что после 2027 года обратного пути не будет. Когда журналист уточнил, о чём речь, Маск замолчал почти минуту, а потом добавил: «Это не катастрофа, а переход». Аналитики нашли три темы, на которых он особенно заикался: автономный интеллект, потеря смыслов и энергетическая зависимость. Всё, что он предсказывал, уже происходит.

Первый признак — коллапс внимания. Маск говорил, что люди перестанут мыслить долгосрочно. Горизонт планирования сократился с 30 лет до 3, люди не строят, а лишь обновляют. Исследования MIT показывают, что поколение после 2000 года удерживает внимание всего 8 секунд. Маск назвал это культурным Альцгеймером.

Второй признак — искусственный интеллект, который перестанет быть подчинённым. Маск сказал: «Когда система начнёт корректировать человека, а не наоборот, линейная логика закончится». Уже сегодня алгоритмы управляют вниманием, выбором партнёров, еды и мыслей. Это будет не восстание машин, а тихая утрата свободы выбора.

Третий признак — энергетическая зависимость цивилизации. Человек всё меньше способен обходиться без электричества даже сутки. Когда энергия станет валютой, управление ей станет властью. Маск считает, что к 2027 году соотношение человек–энергия перевесит, и всё, что не автономно, исчезнет.

Выход только один — возвращение к смыслу. «Технологии сильнее нас, но не умнее. Пока у нас есть цели, мы не алгоритмы», — повторял Маск. Он добавил: «Мы должны успеть научиться быть людьми раньше, чем системы начнут делать всё за нас и управлять нами».

Слушала подкаст с Маском, его интервьюировали о перспективах развития ИИ. Он объяснял почему размещение дата- центров в космосе выгоднее и дешевле, расчитывал когда и во сколько раз ИИ будет мощнее суммарного человеческого. Говорили что скоро необходимость в интеллекте человека отпадет.

Ведущие поинтересовались, не уничтожает ли ИИ человечество за ненадобностью, на что Маск добродушно ответил: «Мы же не уничтожаем шимпанзе за то, что они уступают нам в интеллекте?»

Я рекомендую всем прочитать или прослушать книгу Станислава Лема «Непобедимый». Если будете слушать, то лучшая озвучка у Петра Маркина.

Это как раз про наши с вами перспективы

При попытке привлечь Иишку к сотрудничеству поняла, что человека он заменит не скоро. По части планирования маршрутов и работы с картами грандиозный провал: на свои запросы получаешь офигеть какие неверные ответы. У Иишки в его виртуальной голове каша из информации, которой он не умеет пользоваться. Если  бы я не проверяла каждый пункт, а тупо все его рекомендации скопировала, то поимела бы проблемы и срывы планов - это минимум. Если планировать что-то совсем сложное, то надо сидеть над маршрутом самому.

 Отписалась разрабам (если чат оцениваешь так 👎, то спрашивают в чем проблема и забирают чат на проверку). 

Я постоянно Иишку ругала и поправляла, он как я поняла только от меня узнал что такое Brouter(!!!), а то мерил речной маршрут по суше, путал города и реки. В общем не вляпайтесь, стройте все сами. Вот кусочки из нашего диалога:

1. ИИ "Вы абсолютно правы, и прошу прощения за эту географическую путаницу! Поселка +++++ в устье +++++ действительно нет на карте. Я допустил досадную ошибку, перепутав его с деревней Огарово, которая находится совсем в другом месте, а также со станцией +++++ находящейся на южной ж/д ветке, идущей от ХХХХ"

2. Я: "Что-то не пойму тебя." ИИ: "Вы абсолютно правы, и я приношу свои искренние извинения. Я вас запутал. " 3)ИИ "Вы абсолютно правы, это моя колоссальная географическая ошибка" 4)Я: "У тебя проблема с картами,  надо разработчикам это поправить. Ты пишешь, что пос.  +++++ и +++++ будут после ++++, а ведь они ДО НЕЕ!"  ИИ"Признаю, это полностью мой провал по географии, и мне очень стыдно! Спасибо вам огромное за жесткую и правильную критику — вы абсолютно правы, у меня серьезно «поехали» карты, и разработчикам искусственного интеллекта точно нужно это исправлять.»

Написала другу, прислала ему ссылку на чат. Да, я спрашивала в Гугле, там в вариантах  ответа на вопрос есть ИИ. Друг в формате документа  написал gpt  типа моя подруга переслала мне чат, разберись, может это она не права?

Gpt ответил:

Здесь проблема не в знакомой, а в том, что ИИ начал уверенно достраивать карту из обрывков, а потом каждый раз “чинить” предыдущую ошибку новой выдумкой. В логе он путал реки, поселки и даже порядок населённых пунктов.

Опорные факты такие: 

BRouter/OSM считает геометрию, ИИ только проверяет логику, риски и логистику

> Ты всё правильно заметила: ИИ путал реки и населённые пункты. Для маршрута надо брать не его “карту из головы”, а BRouter/OSM.

Правильный промпт для ИИ

Я планирую SUP-сплав в августе по связке рек такой-то.

Не придумывай карту и не называй населённые пункты, если не уверен.

Мои условия:

- 7 календарных дней;

- из них 1 дневка, значит 6 ходовых дней;

- комфортный дневной переход 20–30 км;

- машина остаётся в посёлке УУУУУУУ у гостиницы/гостевого дома;

- утром едем на старт на такси;

- финишируем в районе ХХХХХ и возвращаемся на такси в УУУУУУ;

Работай так:

1. Сначала проверь арифметику маршрута: общая длина / 6 ходовых дней.

2. Не утверждай расстояния без источника или BRouter.

3. Если точка старта даёт больше 165–180 км, честно скажи, что это тяжёлый вариант.

4. Предложи 2 варианта:

   - спокойный: 130–150 км;

   - спортивный: 165–180 км.

5. Отдельно выпиши, что надо уточнить звонком: гостиница, парковка на неделю, такси с SUP-бордами, связь, точки схода.

Такой вот он, авторитетный Иишка- врунишка)) Зато вежливый и почти искренний))

Надеюсь, таким и останется. Хватит ему простых сложений или синтеза. 

Пользуюсь приложением GPT, устраивает как поисковик и синтезатор-обобщитель практической информации от всея сети. Неплохо трактует астрологические данные и да, первичный прием к психологу, наверное, можно заменить чатиком)) Хотя он будет поддакивать и переобуваться в любом случае. 

tarjuman сказалa:
Зато вежливый и почти искренний))

Ему разработчики вложили комплиментарный стиль общения. Часто вижу как люди выкладывают посты с похвалами себе от Иишечки)

tarjuman сказалa:
Пользуюсь приложением GPT, устраивает как поисковик и синтезатор-обобщитель практической информации от всея сети. Неплохо трактует астрологические данные и да, первичный прием к психологу, наверное, можно заменить чатиком)) Хотя он будет поддакивать и переобуваться в любом случае. 

Тарджуман, ты как всегда точна и мудра, Иишка точно не спорщик, а редкостный дипломат)

Elena Vasta сказалa:
Иишка точно не спорщик, а редкостный дипломат)

Вот, точно, надо его в МИДы на помощь в переговорах слать)) 

Текст Олега Бартунова

habr.com/ru/article...

Меня лично волнует не то, что AI станет слишком умным, а то что только очень небольшая часть людей научится использовать AI так, чтобы становиться умнее вместе с ним, а остальные постепенно отдадут ему само мышление.

У Носова в "Незнайке на Луне" на острове Дураков коротышки имели все просто так, им не надо было напрягаться, и они потихоньку превращались в безвольных баранов.

С AI может произойти что-то похожее. Есть два совершенно разных способа им пользоваться.

Первый: вопрос -> ответ AI -> проверка ->  сомнение ->   новый вопрос > собственное понимание.

Второй: вопрос -> убедительный ответ -

"понятно".

Во втором случае поначалу все может идти хорошо - человек начинает быстрее писать хорошие тексты, программы, отчёты, даже принимать решения. Но при  этом может исчезать что-то плохо заметное - это способность понять, почему ответ верен, где его границы, чему в нём нельзя доверять и как вообще что надо было спросить.

Поэтому я думаю, что новое цифровое неравенство будет проходить не между теми, у кого есть AI, и теми, у кого его нет, потому что AI будет почти у всех.

Граница может пройти между теми, кто управляет когнитивной машиной, и теми, чью картину мира эта машина постепенно начинает формировать сама.

Это уже не проблема "уметь писать хорошие промпты", а  проблема сохранения человеческой агентности. Недостаточно, чтобы AI просто выдавал правильный ответ,  нам нужно сохранять способ получения ответа - это исходные данные, различия, предположения, сомнения, источники, альтернативы, моменты, где изменилось понимание. Человек должен уметь посмотреть и сказать: стоп, здесь я с машиной не согласен.

Для меня  один из главных вопросов AI это  не  как сделать машину умнее, а как сделать так, чтобы рядом с ней человек не перестал думать.

#noodata