Я всегда считал AI великой силой.
И мне очень нравится мысль, что AI усиливает человека. Если ты хороший инженер - станешь инженером, который успевает за день сделать недельную работу. Если врач - быстрее разберёшься в сложном случае. Если писатель - будешь меньше воевать с пустым листом.
Красота

А потом я вдруг понял одну неприятную вещь.
AI ведь никого не проверяет на профпригодность
Он одинаково добросовестно помогает и умному, и тому самому человеку, который однажды починил кран, а теперь считает себя инженером-гидротехником международного класса

Получается удивительный эффект.
Компетентность он усиливает.
Но некомпетентность усиливает ничуть не хуже.
Причём последняя растёт даже веселее. Потому что умный человек постоянно сомневается. Проверяет. Читает. Спрашивает

А не очень компетентный уже на третьем ответе AI понимает, что теперь знает вообще всё
Получается эффект Даннинга-Крюгера на стероидах

Раньше такой эксперт заходил на форум и писал:
- Мне кажется, я понял, как устроена Вселенная.
Ему отвечали:
- Нет
И на этом история заканчивалась

Теперь всё иначе.
Теперь он приходит с исследованием на двадцать страниц
Там введение.
Сравнительная таблица.
Диаграммы.
Формулы.
Заключение.
И список литературы длиннее, чем мои два диплома
Правда, всё это он не понял примерно одинаково

И если над историей от таких товарищей о том, что антибиотики перестают работать, потому что бактерии заранее читают медицинские статьи и успевают подготовиться, ещё можно посмеяться, то история, где AI "окончательно доказал", что Земля плоская, уже не кажется такой смешной из-за растущего количества уверенных в этом адептов, которые уже несут свои "знания" в массы

Самое несправедливое во всей этой истории, что AI вообще ни в чём не виноват.
Он как микрофон.
Если к нему подходит Лучано Паваротти - получается опера.
Если подходит гусь...

...получается очень убедительный, прекрасно структурированный, со сносками оформленный гусь.
И самое тревожное, что этот гусь уже умеет делать презентации.
С графиками.
С прогнозом до 2040 года.
С финансовой моделью.
И, кажется, уже вполне готов заседать в экспертном совете, консультировать министров, писать законопроекты и уверенно объяснять остальным гусям, как сделать жизнь человечества значительно лучше