Google представил новый Pixel 9 13 августа. В девайсе появилась функцияReimagine, которая потенциально может стать инструментом для создания фейков,сообщилThe Verge. Технология по умолчанию встроена в последний смартфон линейкиPixel. 

Reimagine — продолжение инструмента Magic Editor, который позволяетредактировать фото: стирать части ландшафта, менять цвет неба, выделятьобъекты. А с помощью новой опции можно выбрать часть фотографии и ввести запросдля нейросети. Искусственный интеллект сгенерирует в этом месте объект позапросу пользователя.

При этом, по словам издания, результат «выглядит крайне убедительно»:нейросеть определяет освещение, тени и перспективу съемки и дорисовывает все всоответствии с оригинальной фотографией. С одной стороны, это позволяетдоработать изображение, а с другой, эта функция может превратить фото вфейк.

В инструменте есть система цензуры, однако нужно «немного творчества взапросах», чтобы ее обойти, пишет The Verge.

«Мы разрабатываем наш ИИ так, чтобы он учитывал намерения пользователя.Это значит, что он может создавать неприемлемый контент, если пользователь дастна это указание. Но это не означает, что можно все. У нас есть четкие правила иусловия предоставления услуг, где прописано, какой контент мы разрешаем изапрещаем. У нас есть защитные механизмы для предотвращения злоупотреблений.Иногда текстовые запросы могут бросить вызов этим механизмам, но мы стремимсяпостоянно улучшать защиту», — сказал представитель Google АлексМорикони.

Когда пользователь создает изображение с помощью Reimagine, у картинки непоявляется маркировка с упоминанием ИИ. Морикони сообщил, что Google используетспециальную систему тегов SynthID для изображений, на 100% созданныхискусственно. Но после обработки в Magic Editor фото не получают такоготега.

Как пишет The Verge, с появлением такого инструмента можно за пару секундсделать фейковое фото. Если раньше требовались навыки, время, пониманиеPhotoshop и дорогие программы, то теперь все сделает нейросеть. Кроме того,возможность создания таких картинок находится в телефоне, который можно купитьв магазине.

«Кто знает, быть может, все прочитают лицензионное соглашение Google и будутиспользовать Reimagine для создания цветочков и радуги. Это было бы чудесно! Нона всякий случай лучше проявите лишний скепсис к фотографиям, которые вы видитев интернете», — прокомментировал The Verge.