Про искусственный интеллект

А еще понравилось (где-то читала):

- У вас на работе используют ИИ?

- Да что ты. У нас и естественным не пользуются

В интервью с Лексом Фридманом Маск сказал, что после 2027 года обратного пути не будет. Когда журналист уточнил, о чём речь, Маск замолчал почти минуту, а потом добавил: «Это не катастрофа, а переход». Аналитики нашли три темы, на которых он особенно заикался: автономный интеллект, потеря смыслов и энергетическая зависимость. Всё, что он предсказывал, уже происходит.

Первый признак — коллапс внимания. Маск говорил, что люди перестанут мыслить долгосрочно. Горизонт планирования сократился с 30 лет до 3, люди не строят, а лишь обновляют. Исследования MIT показывают, что поколение после 2000 года удерживает внимание всего 8 секунд. Маск назвал это культурным Альцгеймером.

Второй признак — искусственный интеллект, который перестанет быть подчинённым. Маск сказал: «Когда система начнёт корректировать человека, а не наоборот, линейная логика закончится». Уже сегодня алгоритмы управляют вниманием, выбором партнёров, еды и мыслей. Это будет не восстание машин, а тихая утрата свободы выбора.

Третий признак — энергетическая зависимость цивилизации. Человек всё меньше способен обходиться без электричества даже сутки. Когда энергия станет валютой, управление ей станет властью. Маск считает, что к 2027 году соотношение человек–энергия перевесит, и всё, что не автономно, исчезнет.

Выход только один — возвращение к смыслу. «Технологии сильнее нас, но не умнее. Пока у нас есть цели, мы не алгоритмы», — повторял Маск. Он добавил: «Мы должны успеть научиться быть людьми раньше, чем системы начнут делать всё за нас и управлять нами».

Слушала подкаст с Маском, его интервьюировали о перспективах развития ИИ. Он объяснял почему размещение дата- центров в космосе выгоднее и дешевле, расчитывал когда и во сколько раз ИИ будет мощнее суммарного человеческого. Говорили что скоро необходимость в интеллекте человека отпадет.

Ведущие поинтересовались, не уничтожает ли ИИ человечество за ненадобностью, на что Маск добродушно ответил: «Мы же не уничтожаем шимпанзе за то, что они уступают нам в интеллекте?»

Я рекомендую всем прочитать или прослушать книгу Станислава Лема «Непобедимый». Если будете слушать, то лучшая озвучка у Петра Маркина.

Это как раз про наши с вами перспективы

При попытке привлечь Иишку к сотрудничеству поняла, что человека он заменит не скоро. По части планирования маршрутов и работы с картами грандиозный провал: на свои запросы получаешь офигеть какие неверные ответы. У Иишки в его виртуальной голове каша из информации, которой он не умеет пользоваться. Если  бы я не проверяла каждый пункт, а тупо все его рекомендации скопировала, то поимела бы проблемы и срывы планов - это минимум. Если планировать что-то совсем сложное, то надо сидеть над маршрутом самому.

 Отписалась разрабам (если чат оцениваешь так 👎, то спрашивают в чем проблема и забирают чат на проверку). 

Я постоянно Иишку ругала и поправляла, он как я поняла только от меня узнал что такое Brouter(!!!), а то мерил речной маршрут по суше, путал города и реки. В общем не вляпайтесь, стройте все сами. Вот кусочки из нашего диалога:

1. ИИ "Вы абсолютно правы, и прошу прощения за эту географическую путаницу! Поселка +++++ в устье +++++ действительно нет на карте. Я допустил досадную ошибку, перепутав его с деревней Огарово, которая находится совсем в другом месте, а также со станцией +++++ находящейся на южной ж/д ветке, идущей от ХХХХ"

2. Я: "Что-то не пойму тебя." ИИ: "Вы абсолютно правы, и я приношу свои искренние извинения. Я вас запутал. " 3)ИИ "Вы абсолютно правы, это моя колоссальная географическая ошибка" 4)Я: "У тебя проблема с картами,  надо разработчикам это поправить. Ты пишешь, что пос.  +++++ и +++++ будут после ++++, а ведь они ДО НЕЕ!"  ИИ"Признаю, это полностью мой провал по географии, и мне очень стыдно! Спасибо вам огромное за жесткую и правильную критику — вы абсолютно правы, у меня серьезно «поехали» карты, и разработчикам искусственного интеллекта точно нужно это исправлять.»

Написала другу, прислала ему ссылку на чат. Да, я спрашивала в Гугле, там в вариантах  ответа на вопрос есть ИИ. Друг в формате документа  написал gpt  типа моя подруга переслала мне чат, разберись, может это она не права?

Gpt ответил:

Здесь проблема не в знакомой, а в том, что ИИ начал уверенно достраивать карту из обрывков, а потом каждый раз “чинить” предыдущую ошибку новой выдумкой. В логе он путал реки, поселки и даже порядок населённых пунктов.

Опорные факты такие: 

BRouter/OSM считает геометрию, ИИ только проверяет логику, риски и логистику

> Ты всё правильно заметила: ИИ путал реки и населённые пункты. Для маршрута надо брать не его “карту из головы”, а BRouter/OSM.

Правильный промпт для ИИ

Я планирую SUP-сплав в августе по связке рек такой-то.

Не придумывай карту и не называй населённые пункты, если не уверен.

Мои условия:

- 7 календарных дней;

- из них 1 дневка, значит 6 ходовых дней;

- комфортный дневной переход 20–30 км;

- машина остаётся в посёлке УУУУУУУ у гостиницы/гостевого дома;

- утром едем на старт на такси;

- финишируем в районе ХХХХХ и возвращаемся на такси в УУУУУУ;

Работай так:

1. Сначала проверь арифметику маршрута: общая длина / 6 ходовых дней.

2. Не утверждай расстояния без источника или BRouter.

3. Если точка старта даёт больше 165–180 км, честно скажи, что это тяжёлый вариант.

4. Предложи 2 варианта:

   - спокойный: 130–150 км;

   - спортивный: 165–180 км.

5. Отдельно выпиши, что надо уточнить звонком: гостиница, парковка на неделю, такси с SUP-бордами, связь, точки схода.

Такой вот он, авторитетный Иишка- врунишка)) Зато вежливый и почти искренний))

Надеюсь, таким и останется. Хватит ему простых сложений или синтеза. 

Пользуюсь приложением GPT, устраивает как поисковик и синтезатор-обобщитель практической информации от всея сети. Неплохо трактует астрологические данные и да, первичный прием к психологу, наверное, можно заменить чатиком)) Хотя он будет поддакивать и переобуваться в любом случае. 

tarjuman сказалa:
Зато вежливый и почти искренний))

Ему разработчики вложили комплиментарный стиль общения. Часто вижу как люди выкладывают посты с похвалами себе от Иишечки)

tarjuman сказалa:
Пользуюсь приложением GPT, устраивает как поисковик и синтезатор-обобщитель практической информации от всея сети. Неплохо трактует астрологические данные и да, первичный прием к психологу, наверное, можно заменить чатиком)) Хотя он будет поддакивать и переобуваться в любом случае. 

Тарджуман, ты как всегда точна и мудра, Иишка точно не спорщик, а редкостный дипломат)

Elena Vasta сказалa:
Иишка точно не спорщик, а редкостный дипломат)

Вот, точно, надо его в МИДы на помощь в переговорах слать)) 

Текст Олега Бартунова

habr.com/ru/article...

Меня лично волнует не то, что AI станет слишком умным, а то что только очень небольшая часть людей научится использовать AI так, чтобы становиться умнее вместе с ним, а остальные постепенно отдадут ему само мышление.

У Носова в "Незнайке на Луне" на острове Дураков коротышки имели все просто так, им не надо было напрягаться, и они потихоньку превращались в безвольных баранов.

С AI может произойти что-то похожее. Есть два совершенно разных способа им пользоваться.

Первый: вопрос -> ответ AI -> проверка ->  сомнение ->   новый вопрос > собственное понимание.

Второй: вопрос -> убедительный ответ -

"понятно".

Во втором случае поначалу все может идти хорошо - человек начинает быстрее писать хорошие тексты, программы, отчёты, даже принимать решения. Но при  этом может исчезать что-то плохо заметное - это способность понять, почему ответ верен, где его границы, чему в нём нельзя доверять и как вообще что надо было спросить.

Поэтому я думаю, что новое цифровое неравенство будет проходить не между теми, у кого есть AI, и теми, у кого его нет, потому что AI будет почти у всех.

Граница может пройти между теми, кто управляет когнитивной машиной, и теми, чью картину мира эта машина постепенно начинает формировать сама.

Это уже не проблема "уметь писать хорошие промпты", а  проблема сохранения человеческой агентности. Недостаточно, чтобы AI просто выдавал правильный ответ,  нам нужно сохранять способ получения ответа - это исходные данные, различия, предположения, сомнения, источники, альтернативы, моменты, где изменилось понимание. Человек должен уметь посмотреть и сказать: стоп, здесь я с машиной не согласен.

Для меня  один из главных вопросов AI это  не  как сделать машину умнее, а как сделать так, чтобы рядом с ней человек не перестал думать.

#noodata

ИИшечки

Во первых,всё иишки очень разные, заточены на своё и, по хорошему, на прокладывание маршрутов желательно научить СВОЮ LLM. Это не так сложно сделать. Есть куча руководств. Нужен лишь свой сервер и мозги, сервер - indoman-info.ru, мозги тоже есть :).

Моя бухгалтерша, к примеру, "сделала" (наняла программеров) программу, которая обрабатывает все счета-фактуры и чеки, которые приходят на бизнес. Включая рукописные. По израильским стандартам, на иврите и английском с интерфейсом на русском и иврите.

Первые пол года прога безумно лажала и приходилось жаловаться.

Сейчас эта прога с ИИшкой под капотом работает практически как человек. (Что экономит бухгалтерше расходы на зарплаты как минимум трём наёмным бухгалтерам не снижая доходов).

----

На тему "научить думать"

 - это всегда было проблемой. Сейчас же - особенно.

И если с документами и документальными подтверждениями большинство ИИ работают уже вполне качественно, и в целом,  ясно, как проверить, так как оригинальные статьи выдаются

Пример #1: на вопрос какова ответственность за секс в Цахале, мне ЧатГПТ выдал вполне хороший ответ с указанием статей и законодательных актов.  /от "ничего" вплоть до года военной тюрьмы в зависимости от контекста, места имения, есть ли принуждение даже минимальное, есть ли связь начальник-подчинённый,.../

Пример #2: на вопрос как составить годовой отчёт в налоговую ЧатГПТ мне создал огромный ответ... который оказался не полным и частично не понятным, так как есть информация, которую бухгалтеры Израиля скрывают...чтобы брать денег.. как результат, мне пришлось платить бухгалтеру весьма не малую сумму за такой отчёт после того, как сам заполнил отчёт на 99%.

В случае же новостей и информации, обрабатываемой с ресурсов, постоянно подвергающихся цензурированию и переписыванию фейкоделами (как, к примеру Википедия), большинство ИИшек

- или вытаскивает некий усреднённый ответ, часто не имеющий корреляции с истиной (к примеру, всё, что связано с Израилем и евреями, в большинстве случаев или подтасовка фактов, или переписанные по-новой "факты". Естественно, не Израилем и не евреями. Бороться с этим бесполезно.).

- или "додумывает", т.е. галлюцинирует на основе хрен знает каких данных. У примеру, результаты выборов в РФ с процентами были опубликованы за несколько дней до оных уже не помню каким СМИ. Утверждалось, что данные истинных,проверены ИИ. (Но данные оказались очень близки к реальным ...которые через дня 3 появились).

И тут народ, не имея большого желания проверять, обычно доверяет полнейшей лаже.

Пример: Эмануэль Макрон обвинял Израиль в том, что в "исконно палестинских землях Йеудея и Самария, ХАМАС не делает и не делал никаких терактов". Это было сказано через несколько часов после жестокого теракта сделанного ХАМАСом в "исконно палестинской" области Йеудея на месте древнееврейского поселения, естественно, против евреев. МИД Франции сурово извинились, сказали, что их подвёл ИИ... который брал новости с сайта...ХАМАСа (террористической организации объявленной таковой в большинстве стран мира). 

Пример 4: попросил Codex ( это ЧатГПТ для программирования) переписать мне проект. Он переписал, после чего процентов 10% начало работать не так, как надо. И если б не проверил, то была бы подстава.

Но большинство - не проверяет.

А так - да, качество ответов ИИшек всё улучшается, и желания проверять многостраничные ответы часто нет совсем...так как очень трудно выцепить ошибку.

Я ради прикола создал свой герб...Запустил один и тот же промпт с разницей в месяцев 8 и сменой девиза :).
Зацените:

wizard сказал:
Во первых,всё иишки очень разные, заточены на своё и, по хорошему, на прокладывание маршрутов желательно научить СВОЮ LLM. Это не так сложно сделать. Есть куча руководств. Нужен лишь свой сервер и мозги, сервер - indoman-info.ru, мозги тоже есть :).

Идея интересная) 

Девиз претерпел значительные изменения  😀

Talia_Lia сказалa:
Девиз претерпел значительные изменения

Вместо констатации факта - попытка изменения ситуации :)

wizard сказал:
А так - да, качество ответов ИИшек всё улучшается, и желания проверять многостраничные ответы часто нет совсем...так как очень трудно выцепить ошибку.

Надо проверять. Я вот два дня собираю информацию и мнения по одному медицинскому вопросу. Обратились к ИИ с просьбой сделать лит. обзор на тему сравнения эффективности препаратов А  и В. До этого он топил за препарат В, но мне мой реальный  консультант и мой научный руководитель  сказал, что  доказанных преимуществ препарата  В над А нет.

ИИ нак дал мне ответов, что просто масса есть работ, где проведенные клинические испытания докащали преимущество В. 

Я пошла читать его ссылки. И что я вижу? ИИ ссылается на крупнейший исследовательский центр США, на европейский центр и на наш отечественный, работы которого доказали МНОГОКРАТНОЕ превосходство препарата В 

А на самом деле в отечественном исследовании, на который он сослался, этот препарат вообще не упоминали, а американцы и европейцы не выявили разницы в эффективности .

Я даже не знаю как это комментировать

я разразилась гневной тирадрй, гпт шаркал ножкой, говорил что нет ему прощения, а я молодец, что проверяю данные.

Но вот осадок  в виде чудовищного  разочарования остался. 

Elena Vasta сказалa:
разразилась гневной тирадрй, гпт шаркал ножкой, говорил что нет ему прощения, а я молодец, что проверяю данные. Но вот осадок  в виде чудовищного  разочарования остался. 

Да, у меня были такие же случаи. Посему, я отношусь ко всем ИИ как к толпе индусей в конторах, в которых я работал: они ОЧЕНЬ часто несли полнейшую ерунду под вежливое Yes Sir! И это безусловно очень раздражало.