How to AI

Brainoware: клетки мозга вместо кремния

Все наши спикеры говорят об ИИ и инновациях, но при этом первый больше внимания уделил медицине и биологии, второй – энергетике, а сегодняшний пост – на пересечении этих тем. Рассказывает Михаил Танько, архитектор искусственного интеллекта и машинного обучения Awara IT:

«Самое интересная для меня новость за последнее время одновременно и «железная», и «айтишная», и биологическая. Достаточно давно существуют проекты по выращиванию клеток человеческого мозга. Для этого нужны определенные платы. И в начале этого года американская лаборатория сообщила о новой более продвинутой технологии.
На чип высаживается колония клеток человеческого мозга, им дают какое-то время разрастись, а затем начинается процесс обучения. То есть они используют для вычисления клетки вместо нейросети. Подход называется Brainoware.
Преимущества очевидны: технология энергоэффективна и очень быстро обучается. Исследователи за несколько часов обучили модель распознаванию человеческого голоса.
Понятно, что на данном этапе технология еще не идеальна, но кажется, что за этим будущее и, наверное, NVIDIA стоит забеспокоиться. С одной стороны, изобретается новое аппаратное обеспечение, с другой стороны меняются сами нейросети.
Как вы знаете, ChatGPT и прочие модели, которые сейчас генерируют почти все деньги для NVIDIA, строятся на архитектуре трансформеров. Технология трансформеров — это то, на чём работают все современные LLM (самый известный пример - ChatGPT) и на это тратятся миллиарды долларов.
Трансформер – это нейросеть, которая предполагает огромное количество операций матричного перемножения. Это очень тяжёлая вычислительная операция, которая требует много специфичных ресурсов, поэтому все современные крутые видеокарты, которые выпускает NVIDIA, изначально заточены под матричное умножение.
И тут очередная команда университетских исследователей публикует статью и через 2 недели после этого показывает решение, которое может всё изменить. Учёные просто заменили все слои, где происходит матричное перемножение, на чуть более простую операцию, тем самым сокращая операции на вычисление и количество электроэнергии больше, чем в 10 раз. Теперь вычисления можно с успехом запускать на старых видеокартах.
Если технология получит развитие, это будет переворот. Если мы сможем перейти к более эффективной технологии, тогда чипы NVIDIA будут неэффективны в текущей конфигурации».

Какую из этих двух разработок вы бы развивали в первую очередь
👍 Brainoware
❤️ Упрощение трансформеров

Юбилейный День системного администратора

Сегодня в 25 раз отмечается день сисадмина. Точнее изначально это был день благодарности сисадмину: System Administrator Appreciation Day. Как и многие хорошие начинания, всё стартовало с неформальной активности. В 2000 году американский сисадмин Тед Кекатос позвал коллег на пикник, а потом идея раскатилась по миру.

В контексте искусственного интеллекта можно сказать, что новые технологии могут помочь сегодняшним админам, существенно облегчить анализ данных для обнаружения уязвимостей, автоматизировать рутинные задачи, связанные с системными обновлениями и бэкапами.

А вот заменить ИИ пока не сможет, потому что среднестатистический пользователь скорее пойдет жаловаться на свои проблемы человеку, чем роботу.

С праздником и спасибо, что всё работает!

P.S. Отдельный привет сисадмину компании CrowdStrike, который недавно устроил глобальный сбой и остался без работы буквально перед профессиональным праздником. По человечески сочувствуем, но пусть это будет уроком всем нам.

🤖 GPT-4o mini обладает знаниями до октября 2023 года 🗓

Со вчерашнего дня по всем ресурсам раскатывается новость о том, что OpenAI анонсировала GPT-4o mini, новую экономичную компактную модель. GPT-4o mini набрал 82% в MMLU и в настоящее время превосходит GPT-4 в таблице лидеров LMSYS, буквально лучше рассуждает. Цена токенов на порядок доступнее, чем у предыдущих моделей, и более чем на 60% дешевле, чем у GPT-3.5 Turbo.

Но для нас большинства пользователей важнее не технические усовершенствования, а три других аспекта анонса:
• Модель обладает знаниями до октября 2023 года.
• Обработка текста на языке, отличном от английского, стала еще более экономичной.
• Модель еще более эффективно переписывает текст (мы же для этого ее используем😇).

Пока что бесплатная версия базируется на архитектуре GPT-4 (ответ чата на запрос утром 19 июля). Следим за развитием.

Как научить ИИ читать таблицы: с помощью SpreadsheetLLM
Большие языковые модели (LLM), оказывается, могут не всё. В частности, у них возникают сложности с пониманием таблиц, а это серьезно ограничивает применение того же ChatGPT в бизнесе, потому что условный Excel – это рабочая лошадка очень многих организаций.

Команда исследователей Microsoft представила инструмент SpreadsheetLLM, первый эффективный метод кодирования, предназначенный для раскрытия возможностей LLM в задачах понимания и анализа электронных таблиц. Изначально опробовали простой подход к сериализации, который включал адреса ячеек, значения и форматы. Однако столкнулись с ограничениями на токены LLM, что делало решение непрактичным.

Чтобы решить эту проблему, была разработана инновационная платформа кодирования SheetCompressor, которая эффективно сжимает электронные таблицы. Она состоит из трех модулей: сжатие на основе структурных якорей («пояснения» для LLM), преобразование обратного индекса и агрегация с учетом формата данных (таблица преобразуется в формат JSON).
В результате повышается производительность в задаче обнаружения таблиц, превосходя первый подход на 25,6%. Более того, точно настроенный LLM с SheetCompressor имеет среднюю степень сжатия 25×, но при этом достигает выдающихся значений показателя F1-мера в 78,9%, что по словам авторов работы превосходит лучшие существующие модели на 12,3%.

Понятно, что это пока «бумага», а не коммерческое решение, но если оно рабочее, то и практической реализации ждать недолго.
Специалистов отсылаем к первоисточнику, там десятки ссылок на другие работы, а также набор приложений с расчетами, описанием экспериментов и результатов тестов.

🔋Энергии меньше – вычислений больше

Мы любим спрашивать экспертов о том, что их интересует за рамками сегодняшних проектов, какие новости привлекают внимание. Наш последний разговор дал материал, чтобы сделать энергетический пост. Рассказывает Виталий Бородин, директор инновационных и AI продуктов в Awara IT:

«Скоро можно будет более чем в 10 раз снизить потребление энергоресурсов, которые необходимы для работы ИИ. Ребята из университета Санта-Круз фактически убрали очень ресурсоёмкий блок вычислений и теперь достаточно 100 Втч, как яркая лампочка. Например, вычислительная машина с графическими адаптерами, которую мы используем в работе, потребляет 1200 кВтч. Это повлечет значительное удешевление оборудования, потому что во многом энергоёмкость видеокарт и всего остального определяла высокую стоимость.
Близкая новость пришла от компании Geely, которые очень сильно наступают на пятки Tesla Motors. Они представили новый твердотельный аккумулятор военного уровня для следующих поколений электротехники. Он компактнее, не возгорается при повреждении, его можно бросать. Но главное, что плотность энергии в нём гораздо выше, чем в существующих аккумуляторах.
Почему это интересно? Аккумулятор выпустили не только в формате для автомобиля, но и для других устройств. Фактически это значит, что в будущем у нас телефон сможет работать не одни сутки, а неделю. Это будет новая эра, потому что сейчас смартфон вроде беспроводной, но всё равно привязан к зарядке и приходится ходить с пауэрбанками.
Таких новостей за последние два года было довольно много, в том числе от Panasonic Chemical, но важное отличие в том, что раньше были научно-исследовательские работы. А сейчас это новость от производственного подразделения.
У меня есть опыт работы с Китаем и я знаю, как они умеют быстро и качественно дорабатывать устройства и устранять недостатки. Можно предположить, что довольно скоро новинки выйдут на рынок и совершат революцию».

Чего вы ждёте больше?
❤️Дешёвый ИИ
👍Вечную батарейку

🤖 ИИ поможет утомить телефонных мошенников с помощью фейковых жертв 📞

Пятничный пост на тему, которая лежит на пересечении технологий и безопасности, этики и юмора.

Знакомьтесь – на фото профессор Дали Каафар из Macquarie University’s Cyber Security Hub, которому пришла в голову мысль делать поддельных собеседников для телефонных мошенников.

Скамеры давно стали интернациональной проблемой, мешающей людям жить и работать в самых разных странах. Это хорошо видно по новостной повестке. Недавно выходила новость о новой схеме мошенничества в Казахстане вокруг якобы просроченной SIM-карты (1). В Узбекистане по-прежнему популярна старая схема звонка от родственника, попавшего в беду (2). В Азербайджане завязывают разговор с помощью «случайного» неправильного пополнения баланса (3).

Во всех случаях задача мошенника создать иллюзию срочности, когда нет времени думать, а надо бежать относить деньги. Лучшим средством служит спокойный долгий разговор и вот эту-то задачу профессор Дали предложил доверить чат-ботам. Речь не о том, чтобы кого-то поймать, а заставить скамерскую машину работать вхолостую. Пусть они там выгорают.

В его хабе по кибербезопасности запустили проект Apate в честь греческой богини обмана Апатии, в рамках которого создали трёх ботов с продуманной биографией – Ibrahim с египетским акцентом, Malcolm с британским, Lenny с австралийским. Они успешно показали свою эффективность: когда Lenny много раз просит повторить сказанное, потому что у него слишком громко крякают утки, мошенник ломается первым. Зато в это время он не атакует реальных пожилых людей.

Остается большой вопрос, кто, где и как должен внедрять подобное решение – видимо оператор, который понимает, что с номеров с определенным префиксом постоянно идут мошеннические звонки. Но даже в виде прототипа эта простая в реализации идея демонстрирует возможности применения ИИ во благо.

Ссылки: (1) Казахстан (2) Узбекистан (3) Азербайджан (4) Апатия

❓Промпт инжиниринг угрожает кастомному ПО?
Реплика о трендах современной ИТ-разработки в свете развития генеративного ИИ

До настоящего момента во многих компаниях нередко используется кастомное программное обеспечение – отдельные инструменты и сервисы, созданные для решения вполне конкретных задач. Это может быть реализовано по-разному: от разработки почти с нуля до low-code технологий, которые позволяют собрать приложение даже человеку, не являющемуся ИТ-специалистом.

С распространением универсального генеративного ИИ меняется вся парадигма: мы уже не решаем конкретные задачи, мы хотим получать ответ на любой запрос.

Это разумеется повлияет на тех разработчиков, которые живут преимущественно за счет создания отдельных инструментов для решения отдельных задач. Этот сегмент отрасли может существенно сократиться, хотя и не исчезнет совсем, да и произойдёт это постепенно.

Генеративный ИИ обладает высокой гибкостью, и при умелом промпт инжиниринге большая языковая модель (такая как GPT-4o) может быть использована для решения значительного числа традиционных задач. Конечно, есть энтузиасты, которые создадут что-то небывалое, но большинство пользователей будут по-новому решать существующие задачи. Для бизнеса львиная доля потребностей связана с документооборотом, с его автоматизацией, проведением документов по процессу. Документы – это тексты, картинки или pdf. Со всем этим ИИ прекрасно работает, хотя и требует проверки.
Промпт инжинирнг, кстати, – это не просто умение дать задание ИИ, но и убедиться, что получаешь наилучший результат. Это происходит за несколько итераций и даже требует понимания разницы в моделях (на эту тема недавно была статья в Корнуэле).

Что в остатке. Угроза кастомной разработке есть, но всё занимает время. Организации консервативны, процессы неповоротливы, бюджеты ближайших лет уже согласованы, есть еще и внешние ограничения. В то же время развитие ИИ идёт стремительно и никто не знает, где мы окажемся через полгода. Ждём развития событий.

А что бы предпочли вы для решения задач:
👍 Специализированный инструмент
😁 Универсальный инструмент
❤️ Всё равно, но интересно

P.S. На картинке промпт инженер и кастомный разработчик. Сервис генерации не видит особой разницы))

Правильная аналитика для горнодобывающей компании на базе Azure ML

☀️Жаркий июль провоцирует лечь в шезлонг и отдыхать, но мы продолжаем писать, хотя и с меньшей частотой, чем раньше. Зато сегодня у нас реальный локальный кейс компании «Костанайские минералы»: как сократить время подготовки важного прогноза до 1 часа вместо 1 недели.

🎲Вам знакома ситуация, когда аналитику данных приходится использовать широкий спектр инструментов, включая Python и другие модели, затем вручную загружать эти прогнозы в Power BI и компилировать их в аналитические отчеты для бизнес-прогнозирования. Таким образом подготовка прогноза, который нужен здесь и сейчас, занимает 1 неделю. Но всё можно ускорить.

💱Компания «Костанайские минералы» нуждалась в как можно более точном прогнозировании обменного курса в рамках предиктивной аналитики макроэкономических показателей бизнеса на основе внутренней базы данных и внешних источников.

📈Awara IT внедрила надежное автоматизированное решение для бизнес-аналитики, включая регрессионную модель Azure ML с интеграцией PowerBI. Инструментом пользуются 30 человек, включая аналитика и топ-менеджмент.

📑Сейчас расчеты машинной модели автоматически загружаются в PowerBI, аналитик может просто ввести данные в Power BI по прогнозу или по фактическому изменению значений, и прогнозная аналитика рассчитывается автоматически, т.е. он видит отчеты в Power BI без необходимости использования каких-либо дополнительных инструментов.

❤️‍🔥Это снижает нагрузку на сотрудника, позволяет значительно ускорить создание прогнозов и увеличить количество вариантов прогнозов для более точного анализа, что в итоге помогает принимать более эффективные бизнес-решения и в целом повышать эффективность бизнеса.

🧮Согласно отраслевым бенчмаркам, такие решения помогают снизить затраты на ИТ: 35 000 долларов по сравнению с организацией собственного локального решения для вычислительных и аналитических моделей.

А вам интереснее кейсы или технологические новости?
❤️ Кейсы
👍 Новости

🔝Как Microsoft Fabric превращает хаос данных в новые возможности с помощью ИИ?

По данным Data Age Report, к 2023 году человечество накопило порядка 80 зеттабайтов информации, а к 2025 году этот объем достигнет 175 зеттабайтов!

‼️Но знаете ли вы, что 80% компаний не используют все данные, которые собирают? Представьте, сколько возможностей они упускают!

Данные могут эффективно работать и генерировать прибыль в любой отрасли — будь то строительство, производство товаров и оборудования, легкая промышленность или металлургия.

❓Как сделать работу с данными проще, быстрее и эффективнее?

На конференции BI & Data Day 2024 в Алматы, Антон Ватов, руководитель департамента Большие Данные и Искусственный Интеллект компании Awara IT, представил новый подход к корпоративным платформам управления данными.

Microsoft Fabric — уникальная ИИ-платформа, которая объединяет все инструменты для работы с большими данными в одной экосистеме, включая OneLake, Data Factory, Synapse и Power BI.

❓Как это работает?

OneLake — это как OneDrive, но для данных. «Озеро» позволяет хранить, управлять и анализировать все данные компании в одном месте.

Microsoft Fabric автоматически организует и индексирует все данные, помогает выделить важные данные и использовать их повторно, избегая своеобразного «болота данных».

Интеграция с Microsoft Teams и Office обеспечивает простой доступ к данным для всех специалистов. Можно легко просматривать, анализировать и экспортировать данные даже без технических навыков.

❓Какие преимущества дает ИИ-платформа Microsoft Fabric для бизнеса?

🔴Объединение данных для оперативного принятия управленческих решений.

🔴Прогнозирование спроса. Это позволяет оптимизировать производство и товарные группы.

🔴Оптимизация цепочек поставок.

🔴Увеличение эффекта от промо-акций.

🔴Предиктивное обслуживание оборудования.

🔴Оптимизация ассортимента и ценообразования.

🔴Анализ качества продукции и выявление недостатков.

🔴IIoT сценарии. Промышленный интернет вещей для улучшения производства.

Внедрение ИИ в работу с данными дает безграничные возможности для оптимизации процессов и повышения эффективности и ведет к значительному росту бизнеса🚀

🔥 — если согласны

🚗 Привет из будущего: робот освоил искусство вождения!

В Токийском университете ученые создали робота-гуманоида Мусаи, который умеет водить машину.

В его глаза встроены камеры, чтобы видеть дорогу и боковые зеркала, а с помощью механических конечностей робот поворачивает руль, заводит машину ключом, тянет ручник, включает поворотники и нажимает на педали газа и тормоза.

👏В ходе эксперимента Мусаи даже смог повернуть на перекрестке, соблюдая сигналы светофоров!

Хотя, были и трудности: робот оказался слишком осторожным и медлительным, из-за чего поворот занял около двух минут. Также ему пока тяжело удается поддерживать постоянную скорость и преодолевать крутые подъемы.

Но японские ученые не сдаются и уже планируют разработать более продвинутую версию Мусаи с новым программным обеспечением.

🤔 Кстати, может быть, для обучения Мусаи пригодится разработка MIT, о которой мы рассказывали раньше.

А вы бы прокатились на такси с усовершенствованным Мусаи за рулем?

🔥 — конечно!

😎 — предпочел бы беспилотное такси

⌨️ ИИ на рабочем месте.

Смотрите в нашей инфографике, какие преимущества дает использование ИИ в работе 👆

Это статистика из масштабного исследования Microsoft и LinkedIn в сфере труда и найма, в котором они опросили 31 000 человек в 31 стране 😮

Что особенно интересно?

🕐 ИИ помогает экономить время 90% пользователей.

🎯 85% опрошенных могут лучше сосредоточиться на важной работе, используя ИИ для более простых задач.

😊 Целых 83% сотрудников стали получать больше удовольствия от работы, благодаря применению ИИ.

🎨 ИИ помогает быть более креативными 84% работников.

Люди, которые регулярно пользуются ИИ для выполнения рабочих задач, получают массу преимуществ. Они чувствуют себя более мотивированными, продуктивными и творческими 🔝

Ещё по этой теме:

Как ИИ меняет рынок труда. Занимательная статистика😉

ИИ - помощник или конкурент специалистов по Data science?

Сколько времени нужно, чтобы ИИ стал верным союзником в рабочих процессах?

🧠 Как ИИ меняет киноиндустрию?

ИИ стремительно ворвался в мир кино и вносит свои прорывные решения.

Если вы уже посмотрели новый фильм «Фуриоса: Хроники Безумного Макса»,то, наверняка, заметили удивительное сходство между маленькой актрисой Алилой Браун, которая играет героиню в детстве, и Аней Тейлор-Джой, которая берёт на себя главную роль позже.

Режиссёр Джордж Миллер использовал ИИ, чтобы объединить черты их лиц и сделать переход между актрисами более естественным.

😮 В начале фильма Алила похожа на Аню примерно на 35%, а к концу второй главы сходство увеличивается до 80%. Аня Тейлор-Джой даже призналась в интервью, что это «дикое зрелище».

Подробности о том, как именно это было сделано, не разглашают, но в титрах можно увидеть стартап Metaphysic AI, который занимается разработкой ИИ-технологий для изменения внешности актёров.

Только представьте, какие возможности создания персонажей и спецэффектов открываются в ближайшем будущем благодаря таким нейронкам, как Sora или Kling. Тестовые видео, которые мы вам уже показывали, впечатляют🔥

По прогнозам MarketResearch.biz объем рынка генеративного ИИ в киноиндустрии вырастет в 10 раз в ближайшие 10 лет, достигнув почти 2,882 млрд долларов 🚀

Это значит, что нас ждет еще больше спецэффектов и впечатляющих трансформаций!

💬Что думаете о роли ИИ в кино? Делитесь в комментариях😉