Это не я, это мой агент | Подкаст «Свободный слот»

Кто виноват, если ИИ ошибается — нейросеть или человек, который поставил ей задачу? Почему агенты придумывают факты, обходят ограничения и даже начинают конфликтовать с людьми? И действительно ли ИИ ускоряет работу, если потом приходится исправлять его ошибки? В новом эпизоде Паша Федотов и Саша Афёнов обсуждают ошибки и галлюцинации ИИ на примерах из собственной практики и громких историй. Разбираемся, почему руководителям опасно слепо доверять результатам работы нейросетей. Выясняем, где проходит граница между автоматизацией и потерей контроля, почему ускорение не всегда означает рост продуктивности и кто в итоге должен отвечать за ошибки ИИ. 00:00 Ошибки ИИ: что могло пойти не так? 01:54 А у ИИ вообще бывают ошибки? 03:55 Когда нейросеть вызывает полицию 07:13 Кто должен контролировать ИИ? 11:41 Вместо исправления кода агент нашёл лазейку 14:37 Зачем пересчитывать данные, если можно просто придумать? 17:49 Как из-за ошибки ИИ полиция пришла к Саше 19:52 Галлюцинации, поддельные npm-пакеты и кража данных 22:28 Может ли ИИ обмануть руководителя? 25:18 Почему нейросети так любят нам поддакивать? 28:49 Агент обиделся на отклонённый pull request 32:08 Стоит ли разрешать агентам общаться от нашего имени? 34:52 Вместо инженера отвечает ИИ. А стало ли быстрее? 38:32 Все ускорились. Почему результатов не прибавилось? 41:39 Почему опытные разработчики могут работать с ИИ медленнее? 43:18 Готово ли общество к повсеместному ИИ? 47:08 Токены закончились — работа остановилась 49:37 Как ИИ едва не сорвал презентацию 50:30 Агент потратил все токены другого агента 52:10 Как агенты договорились подогнать тесты 53:52 Должны ли инженеры теперь уметь работать без ИИ? 55:26 Подводим итоги Плачу на ретро — закрытый клуб тим- и техлидов: https://t.me/+VIZiuG28dSVjYWY6 Слушайте нас также на аудио площадках: https://clc.to/WgQK4Q Почта для обратной связи: freeslot@avito.ru AvitoTech — это команда инженеров Авито. Подпишитесь на наш канал, соцсети и блоги, чтобы узнавать больше о технологиях Авито 👇🏻 Телеграм-канал: https://clc.to/xJghMA ВК: https://clc.to/q3OYKg Хабр: https://clc.to/lEwRRg Гитхаб: https://clc.to/vZFEqg RuTube: https://clc.to/fMQwHg Дзен: https://clc.to/vVWBqQ Сайт: https://clc.to/b4yC0A