Комментарии 41
Спасибо, было интересно.
Иишка сейчас не работает, потому что процессы к ней не адаптированы до сих пор
Согласен. Организационное ограничение сейчас даже важнее технологического
ИИшка сейчас не работает потому, что люди не знают как ей пользоваться. Это сильно напоминает басню «Мартышка и очки».
Основная причина сокращений сейчас - кризис, вызванный санкциями и переделом рынка. Компании оптимизируют расходы, а ИИ становится «серебряной пулей», на которую полагаются, чтобы снизить затраты на IT.
И вот тут уже происходит интересное: если копнуть поглубже, то можно выяснить, что в мире появилось очень много мистификаторов на теме ИИ. Взять того же Джеффри Хинтона. Если присмотреться, то можно найти некие общие черты между некоторыми группами ИИ-амбассадоров и борцами с глобальным потеплением. Безусловно, есть люди, которые успешно интегрируют ИИ в свои процессы, проекты, продукты. Равно как существуют профессиональные экологи, которые добиваются снижения выброса вредных веществ в окружающую среду. Но есть, также, люди, которые кричат, что ИИ скоро заменит вас, вашу собаку, жену и бабушку. И вообще, будет за вас рубить, месить и есть сладкое. Ага!
Наряду с людьми, которые имеют прямую связь с финансированием исследований в области ИИ, есть ещё куча новомодных псевдопрофессий. Например, вайб-кодеры. По сути, к ним нет особых требований. Это низкоквалифицированные сотрудники, которые научились запускать код, сгенерированный ИИ. Они отличаются от разработчиков, которые, в том числе, практикуют вайб-кодинг, но могут писать код и сами. Или, например, эти новомодные Продакт-Инженеры - очередной продукт коучей, попытка скрестить вайб-кодера, Тим и Тех лида в одном человеке с зарплатой middle разработчика. Особо любят продвигать идею ИИ-сало соло и сокращение всего персонала в пользу ИИ.
То есть, я лично вижу, что работодатели поддаются на явно мошеннические уловки. Они сталкиваются с кризисом, и пытаются оптимизировать свои расходы. Они идут на рынок, и здесь встречают людей, которые говорят: «эй, ребята, я могу затащить ваши задачи в ИИ-соло! И я прошу на сто тысяч меньше, чем ваш сеньор». Так, например, по слухам, в 2025 году один известный русский банк сократил порядка 4000 айтишников в первой половине года. А во второй половине стал набирать людей обратно. Видимо, ИИ-соло не работает.
Зато, появилась предметная область: промт-инженеринг. Но она не популярна, поскольку предполагает, что её будут изучать традиционные разработчики и лиды. А если мы её будем изучать, то мы будем просить больше денег. Ну или вы можете походить по рынку, потолкаться, поискать людей без этих знаний. Ещё раз: ИИ не замещает никакую предметную область. ИИ добавляет новую предметную область в требования к квалификации персонала. Но рынок пока этого не осознал: пока ещё люди бизнеса верят в ИИ-соло и продуктовых инженеров.
На самом деле, я часто слышу что мои коллеги сидят без работы 3 месяца, пол года. Многие не хотят демпинговать. Они уходят в другие профессии, поскольку работать в IT за копейки не готовы. Те, кто хитрее, берут более 1 проекта в работу. И здесь, опять-таки, активно используется ИИ.
Возвращаясь к вашему утверждению: я абсолютно убеждён, что рынок разделился на 3 основные группы:
Не знают как работает ИИ, но верят, что теперь программисты должны получать меньше уборщицы и приносить им кофе, как в 90-х.
Догадываются как работает ИИ и хотят вкатиться на нём в IT.
Точно знают как работает ИИ, какие у него перспективы, и либо уже зарабатывают на нём большие деньги, либо ждут, пока вкатыши свалят с рынка, и можно будет получить свою компенсацию.
Вот эта вторая группа мешает построить процессы. Строит свои собственные процессы. И поэтому ИИ не работает.
Разве хайп вокруг промт-инженеринга не угас вместе с ростом возможностей LLM?
LLM сами по себе требуют "просто скажи по человечески, что тебе надо". А промт-инженеринг - скорее из серии "подгони запрос так, чтобы LLM ответила как тебе надо" и с развитием LLM эта необходимость трансформировалась в "дай достаточно контекста".
Извините, вы хотя бы представляете как пишутся требования к ПО и как создаются архитектура и дизайн информационных систем? Как это вообще возможно реализовать одним требованием "просто скажи по человечески, что тебе надо"?
Да, очень хорошо представляю.
В виде "просто скажи по человечески, что тебе надо" - невозможно для чего-либо достаточно серьезного.
Но речь шла о промт-инженерах же, а не о возможностях LLM? Или промт-инженер так может?
Что именно должен мочь промт-инженер? Само понятие промт-инженеринга подводит нас к тому, что архитектура и дизайн должны проектироваться отдельно. Однако, вы правильно заметили, что инженерия промтов подводит нас к тому, что нужно подгонять запросы к тому, что тебе надо. И это ключевой момент: LLM не должна проектировать систему, как это сейчас происходит у вайб-кодеров. Но она может значительно ускорить написание кода. Или, к примеру, быстро посчитать бюджет на развёртывание географически зависимых CDN. И вот чтобы она это делала быстро и правильно, нужно разбираться в том, как модель работает. А не пытаться впихнуть в неё ТЗ, как делают сейчас.
Мой посыл был в том, что необходимости в промт-инженерах нет. Достаточно грамотного описания (для тех задач, которые LLM может решить).
Причем тут проектирование через LLM?
Промт-инженеринг - это уже сформировавшаяся область знаний. По этой теме выпускаются печатные труды. Может, конечно, в самих промт-инженерах и нет нужды - область слишком узкая - но современный техлид эту тему знать обязан. Как и современный разработчик.
Сейчас промт инженеринг отшел от "как у LLM получить ответ" к автоматизации работы с LLM.
Раньше нужно было знать "заклинания" (например, думай шаг за шагом или я дам тебе 200$ чаевых), чтобы модель просто не тупила.
Сейчас модели стали умнее и хорошо работают без подобных ухищрений.
Так что сейчас, это просто навык из софт-скилов "внятно объяснять", который прокачивался у разработчиков и до прихода LLM.
А именно промт-ниженеринг остался у задач автоматизации - сформулировать промт так, чтобы надежно работало в любых ситуациях. Т.е. стал достаточно узким навыком для автоматизаторов работы с LLM.
P.S. более того, вышли исследования, которые показали, что подобные ухищрения помогают, но также увеличивают количество галлюцинаций.
P.P.S. а еще видел исследование, которое показало что подобные ухищрения при генерации кода привели к увеличению количества дыр в безопасности (вольная интерпретация).
P.P.P.S. и да, на эту тему пишут книги. Много материалов в сети, курсы и прочее-прочее-прочее. Но именно хайп вокруг темы уже прошел - LLM поумнели и лучше понимают что от них хотят.
Я честно не понимаю кто вы, из какой вселенной вы пишете и почему вы пишете о каких-то LLM, которые понимают человека с полуслова? В моей вселенной существует научный подход: ты собираешь требования к разработке, преобразуешь их в задачи, задачи преобразуешь в промты. Промты делишь на этапы, сохраняя промежуточный результат. Экономишь контекст, не допускаешь попадания всего проекта в него. Ваши заявления о том, что можно «объяснить человеческим языком» LLM-ке задание, наводят меня на мысль что либо вы пишете мне из параллельной вселенной, либо вы - мошенник. И я, простите, склоняюсь ко второму варианту. В моей вселенной LLM не научились экстрасенсорике, ограничены контекстом и регулярно выдают дичь.
Я где-то говорил о "понимают с полуслова"? Это, извините, не моя галлюцинация. Речь шла об актуальности промт-инженеринга для общения с LLM.
Вы читали книги по промт-инженерингу? Вот я думаю, что наше с вами гипотетическое недопонимание обусловлено тем, что вы называете вайб-кодеров промт-инженерами. Есть вполне конкретная предметная область: ML. Мы должны представить данные в понятной для модели форме. Это вопрос RAG-систем и векторных данных. И вот, я открываю, например, содержание книги «Промт-инжиниринг для GenAI” Джеймса Феникса, и что я вижу?
Глава 5. Векторные базы данных с использованием FAISS и Pinecone.
Или, например, Джон Берриман: «Промт инжиниринг для LLM”. Глава 5. Подраздел «дополнение промта поисковыми данными (RAG)».
Да, я сам не знаю при чём тут инжир.
Вот вы всерьёз считаете, что когда мы с вами говорим о промт-инжинерах, то мы говорим об одних и тех же людях? Вы думаете, вайб-коодеры массово интересуются методологией оценки качества ответа модели? Или изыскивают способы дополнения проста поисковыми данными?
Что касается вашего вопроса, то вы сказали следующее:
сейчас, это просто навык из софт-скилов "внятно объяснять", который прокачивался у разработчиков и до прихода LLM.
Почему я считаю что вы не правы: потому, что навык «просто объяснить» не связан с построением архитектуры и созданием системного дизайна. LLM не подходит для сбора требований, для системной аналитики и для проектирования решений. Зачастую, все эти вопросы упираются в долгие интервью с разными людьми, которые не в состоянии «просто объяснить» свои идеи, гипотезы, детали процессов, с которыми они работают.
Что касается вашего другого утверждения:
P.S. более того, вышли исследования, которые показали, что подобные ухищрения помогают, но также увеличивают количество галлюцинаций.P.P.S. а еще видел исследование, которое показало что подобные ухищрения при генерации кода привели к увеличению количества дыр в безопасности (вольная интерпретация).
Я не понимаю почему вы называете промт-инженеринг «ухищрениями». Для вас RAG-системы - ухищрения? Или векторизация данных? Или методология оценки качества выдачи? А алгоритмы, случайно, для вас чудом не являются?
Я изучал в свое время https://www.promptingguide.ai/ (как минимум базовые вещи), + статьи по теме что попадались.
Основная польза - дало знание специфичной терминологии.
И я именно про промт-инженеринг, а не про вайб-кодинг.
И, как я уже говорил, сейчас промт-инженеринг отошел от "как вообще получить ответ от LLM в личной беседе" (1) к вопросам автоматизации работы с LLM (2) (RAG как раз отсюда).
Я говорю про (1) вариант - он отошел от дел, LLM значительно поумнели. Каких-то особых навыков для общения с LLM уже не нужно (кроме умения излагать свои мысли, без этого, понятное дело, никуда). Несомненно, для профессиональной работы с LLM есть свои нюансы.
(2) вариант - специфическое направление деятельности. Нужен, полезен - не спорю. Но это достаточно специфичное направление деятельности, всем его знать не надо. Вы именно про этот вариант говорите.
LLM поумнели, но в определённых границах. Для тех, кто не видит изначально этих границ, это выглядит чудом. Например, можно написать: «реализуй мне алгоритм поиска наибольшей палиндромной подстроки в строке», и LLM выдаст несколько вариантов: от кубической сложности - до Манакера с его линейной сложностью. А можно написать: «напиши код, который сжимает эту строку» и не получить ничего. Потому, что LLM заточены на максимальное удовлетворение запросов пользователя, а не на принятие взвешенных решений. Поэтому, в разработке ПО мы будем пользоваться именно автоматизацией работы с LLM. Ансамбли моделей ещё могут давать какой-то относительно адекватный ответ. Выходить за собственные границы. Но, опять же, есть мнение, что ансамбль может обойтись дороже, чем инженер.
К слову, забыли 4ю группу, которая действительно мешает всем.
Не знают как работает ИИ, но хотят вкатиться на нём в IT.
Уже само наличие в банке 4000(с большим плюсом) айтшников (там ведь кого-то то еще и оставили) говорит что в банке явно что-то не так с ИТ.
Промышленную революцию вспомнили, лудитов и английских ткачей.
Ну тогда напомню, почему английский ткацкий станок убил индийского ткача
http://worldcrisis.ru/crisis/1026709
Технологические преимущества были совсем не на первом месте
Спасибо, хороший аргумент. Технологии сами по себе нейтральны, а вот их эффект зависит от политического контекста. В статье я смотрел именно на рынок труда без этого уровня.
Если рассмотреть в рамках моей статьи, то мне кажется, ваш пример показывает, что созидательное разрушение может быть сильно неравномерным. В данном случае созидание в Британии, разрушение в Индии.
Просто размышления про ИИ:
ТБ данных, астрономические мощности и на выходе, ой очередная модель потеряла контекст беседы, энергетическая/экономическая эффективность ИИ до сих пор у меня вызывает вопросы.
Пример из мира простых людей:
5 марта 1994 я со своим другом начал беседу о перемещении белков в условиях невесомости при воздействии сильных электромагнитных полей. Собственно дискуссия была о технической применимости летательного аппарата, использующего для перемещения электромагнитные поля, совместимого с человеком. Беседа продолжается до сих пор, следующая итерация запланирована на ноябрь 2026. Частота итераций очень разная, в зависимости от аргументов для анализа. Что интересно за эти годы контекст беседы не потерян и фраза - подожди, вот в расчете от 2 декабря 2002 ты не учитывал вот эти факторы (список) не вводит в ступор, просто потому, что ты прекрасно помнишь этот расчет и почему ты не учитывал те или иные факторы. Сколько стоит процесс, а ничего он особо не стоит, один из многих фоновых процессов. Развлечение для интеллекта, профилактика памяти.
Вопрос: как быстро ИИ сможет держать контекст беседы на 10-20-30 лет без особых затрат?
Вопрос: как быстро ИИ сможет держать контекст беседы на 10-20-30 лет без особых затрат?
Правильный вопрос: какой процент людей реально на это способен?
В вашем примере видно, как человек хранит долгую память и учится на протяжении десятилетий, а у LLM пока есть только ограниченный контекст запроса. Долгую «память» для ИИ обычно делают через внешние хранилища (retrieval), а не внутри самой модели.
По сути согласен: модель пока не заменит знающего собеседника, да и по энергии человек гораздо эффективнее.
Контекст выгружается на внешний носитель, подгружается по мере необходимости. Собственно, люди так же делают. Конкретно здесь фундаментальной проблемы не видно, лишь нюансы реализации.
Тем не менее историки сходятся на том, что было создано больше рабочих мест, чем уничтожено, и это привело к существенному улучшению уровня жизни за счет большей доступности товаров благодаря машинному производству и росту зарплат.
Да, но. Можно пытаться находить исторические аналогии, однако тот этап развития имел вполне понятный и однозначный вектор перераспределения рабочей силы - люди переходили от простого физического труда к труду более сложному и даже интеллектуальному. По сути именно эти людские ресурсы позволили свершиться НТР, а образование стало важным социальным лифтом. В предполагаемой же новой транформации вектор массовго перетекания рабочей силы совершенно не очевиден. Какие такие новые профессии, которые принципиально неподвластны ИИ автоматизации? Назад к физическому труду? Выглядит как регресс, да и надо ли его экономие столько, физического труда?
Далее, промышленное производство позволило решить реальную проблему нехватки реальных физических товаров - ещё недавно те же продукты, одежда, обувь и текстиль были дороги и не всем по карману, сегодня же всё это доступно как никогда ранее. Безусловное благо. А вот какую проблему должен решить предполагаемый ИИ переход? Дефицит скриптов на питоне? Дефицит игрушек в стиме или приложений в эппл сторе? Нехватку прикольных видосиков в ютубе?
Как видим, различий с этой набившей оскомину аналогией больше чем сходства. Интересно ваше мнение.
Дефицит способов обработки данных.
Да, чем дальше в историю, тем сложнее аналогии.
Я рискну утверждать, что инновации во все времена решали вопрос дефицита времени и ресурсов. Деятельность становилась более эффективной, а к кадрам повышались требования.
Для меня ИИ в том виде, каком он существует сейчас, - это инструмент, который повышает эффективность и замещает операции, но не профессии. А основная роль ИИ - это трансформация профессий.
Для меня использование ИИ упростило операции (написать код, проанализировать статью, сделать резюме нескольких текстов), но в целом я продолжаю принимать сложные решения о том, какой результат ИИ принимать и как его использовать. Мне стало легче делать рутину, и появилось больше времени на аналитику.
Сейчас появились новости, что ИИ заменяет джунов и что спрос на них падает. Я осторожно отношусь к таким новостям: как мы видим, под хайп с ИИ можно списать все, что угодно, а джунам всегда было нелегко. Но теперь джун в программировании не будет писать с нуля простой код, а вайбкодить его и объяснять, почему он остановился на такой версии, почему он оптимален, как этот код встраивается в общую архитектуру. Руководитель, который принимает программиста на работу, будет проверять его способности работать с ИИ. Можно сказать, что программист становится руководителем команды интеллектуальных агентов, каждый из которых в чем-то "умнее" программиста, но в целом создает продукт и отвечает за результат человек. Это тоже новые навыки.
По поводу физического труда интересная мысль. Робототехника очень перспективное направление, но не в плане человекоподобных роботов, синхронно занимающихся у-шу, а роботов, которые могут интеллектуально выращивать урожай, строить теплицы.
Грузчик будет оператором логистических роботов, дворник - настройщик парка автономной уборочной техники. Ну и всех этих роботов нужно будет разрабатывать и настраивать.
Я не знаю будущего, не всем будет легко, но вот такие гипотезы сходу )
Т.е. все массово пойдут в техники по ремонту роботов.
Проблема с ИИ в том, что ИИ заменяет человека. Чем бы я не занимался - ИИ может это делать. Это просто вопрос стоимости и эффективности.
Пока эффективность на стороне человека. И сможет ли ИИ догнать человека - тоже большой вопрос. Но как только догонит и если останется дешевым - то быть беде.
Пока же LLM надо контролировать и направлять - человек остается необходимым звеном.
Если раньше для создания сайта требовалась целая группа программистов, то сегодня достаточно одного. Это неизбежно приведет к сокращению вакансий для стажеров, junior и middle-специалистов. Теперь нужен лишь один full-stack разработчик, который понимает весь процесс и умеет управлять ИИ. Хотя ИИ и создает новые профессии, он делает это не в одном направлении, а наносит удар сразу по всем фронтам: медицине, IT, сельскому хозяйству, военному делу и многим другим. Профессия будущего, которую предлагает ИИ, — это в основном «оператор», следящий за работой системы. Но в то же время ИИ заменяет пятерых сотрудников одним. Возникает вопрос: куда деться остальным четверым? Идти в другую компанию? Но там ситуация аналогичная. Менять профессию? Но ИИ интегрируется во все сферы деятельности, создать свою компанию? но если каждый станет владельцем бизнеса, то кто будет потребителем? В прошлом существовала профессия фонарщика. С приходом электричества она исчезла, но это не породило массовую безработицу, так как на смену пришло сразу несколько новых направлений: электрики, монтажники, производители ламп. В случае с ИИ мы сокращаем гораздо больше рабочих мест, чем создаем. Физический труд пока остается за человеком, но вопрос лишь в том, как скоро роботы заменят людей и там. Если взять таксистов, то уже существуют беспилотные автомобили. Сколько человек нужно, чтобы следить за пятью такими машинами? 1, 5 или 0.Бизнес всегда будет стремиться к росту доходности через снижение расходов, особенно если это не вредит качеству или даже повышает его. Проще заплатить 200$ за ИИ, который напишет сайт за день, чем платить 600$ трем программистам за неделю работы. Когда-то говорили, что калькулятор заменит математиков, но этого не случилось, потому что он был лишь инструментом. ИИ же создается как «искусственный интеллект» — он должен думать как человек или быть умнее его. Это уже не просто инструмент, а, грубо говоря, попытка скопировать человеческое мышление (хотя он пока и не умеет «думать» в полном смысле слова).Нельзя забывать и о людях, которые работают например таксистами, потому что у них нет навыков работы с ПК (во многих местах до сих пор нет даже электричества) или высшего образования.... ИИ влияет на все направления сразу. Многие корпорации могут отрицать грядущие сокращения, так как им это невыгодно признавать, но такие фигуры, как Мустафа Сулейман (глава Microsoft AI), Джеффри Хинтон и эксперты Всемирного экономического форума (ВЭФ), открыто говорят о том, что массовые увольнения неизбежны. И, судя по всему, результаты этого процесса станут очевидны уже к концу года. ХОТЯ ЭТО ВСЁ ТОЛЬКО МОЁ ТОЧКА ЗРЕНИЯ .
Спасибо за комментарий, это здорово, что точки зрения так отличаются. Значит тема действительно актуальная.
Будущее предсказывать сложно, по анализу текущих тенденций особенно (как мне кажется). Поэтому я и попытался посмотреть шире на ситуацию.
ИИ же создается как «искусственный интеллект» — он должен думать как человек или быть умнее его.
Будет, когда создадут гипотетический AGI. Илон Маск прогнозирует его появление в этом году, кто-то считает это долгосрочной и труднодостижимой целью. Я скорее согласен с последними. Как будет устроена жизнь, когда он появится, предсказать трудно. И каким реально будет AGI тоже сейчас не так понятно.
А вот какую проблему должен решить предполагаемый ИИ переход? Дефицит скриптов на питоне? Дефицит игрушек в стиме или приложений в эппл сторе? Нехватку прикольных видосиков в ютубе?
Одна из версий -- преодолет затык с развитием космической отрасли и выход за пределы одной планеты. И действительно ИИ может создать для этого предпосылки (запрос на космическую инфраструктуру и нужный объем денег в RnD):
https://habr.com/ru/companies/ru_mts/articles/996132/
Так а какие профессии создает ИИ? Сколько исследований смотрел так никто внятно и не сказал. Приводят в примеры всякий скам по типу промт-инженеров и им похожих. Тогда к чему эти сравнения со станками? Станки это просто инструмент, но даже станки сейчас оптимизируют под автономную работу без людей. На некоторых китайских заводах им даже освещение не нужно. Промышленность сложнее и дорого автоматизировать, поэтому нужны механики. А работу за компьютером ИИ автоматизирует гораздо быстрее. Так что не нужно тешить себя иллюзиями новых профессий, тем более в разработке, ИИ точно этого вам не даст.
ИИ для меня тоже инструмент, только более сложный, который делает более эффективной прежде всего интеллектуальную работу.
Про крупные новые профессии я соглашусь. В первую очередь трансформируются привычные профессии и появляются новые специализации. Программист в 80е с перфокартами и программист сейчас с AI copiliot - это вроде как представители одной и той же профессии, но работа у них очень отличается. Ну и уже появились ML инженеры, Data Scientist и т.д. Разметчик данных - тоже новая профессия.
В статье я больше писал про возможность появления новых рабочих мест, которые могут заниматься и представителями той же, но трансформированной профессии.
Я рискую нахватать минусов, но одно из основных использований ИИ будет военное, остальное для властей побочка
ИИ нас не заменит. Но в будущее возьмут не всех