Как пишет издание TechCrunch со ссылкой на исследователей, искусственный интеллект может попасть в ловушку, которая заставит его генерировать искажённые данные. Они называют это «коллапсом модели».
Проблема заключается в том, что уже сейчас Сеть наводнена искусственно сгенерированным контентом, а это значит, что новые модели с большей вероятностью будут обучаться на нём. Получается, ИИ будет обучаться на продуктах ИИ. И если модели продолжат поглощать данные друг друга, результаты могут со временем становиться всё более странными и нереальными, пока не произойдёт коллапс.
И выход из ситуации, в теории, есть. Например, повсеместное и стандартизированное распространение специальных «водяных знаков» на сгенерированном контенте, которые распознавались бы другими моделями ИИ.
Проблема заключается в том, что уже сейчас Сеть наводнена искусственно сгенерированным контентом, а это значит, что новые модели с большей вероятностью будут обучаться на нём. Получается, ИИ будет обучаться на продуктах ИИ. И если модели продолжат поглощать данные друг друга, результаты могут со временем становиться всё более странными и нереальными, пока не произойдёт коллапс.
И выход из ситуации, в теории, есть. Например, повсеместное и стандартизированное распространение специальных «водяных знаков» на сгенерированном контенте, которые распознавались бы другими моделями ИИ.