Програмісти запропонували визначати згенеровані нейромережею особи по очах

11

За останні роки розробники навчилися використовувати генеративно-змагальні нейронні мережі (gan) — комбінації двох нейромереж, одна з яких удосконалюється в генерації зразків, а друга — у відборі правильних і неправильних. Поступово результат їх роботи стає все краще, дозволяючи, наприклад, створювати портрети неіснуючих людей з вражаючою реалістичністю.

Така якість підробок може стати серйозною проблемою, і поки одні розробники покращують роботу gan, інші шукають способи відрізнити реальні зображення від штучних. Цьому присвячена і нова стаття програмістів з університету штату нью-йорк, представлена у відкритій бібліотеці препринтів arxiv.org. У ній хуей го (hui guo) і його колеги відзначають, що ключем до ідентифікації згенерованих осіб можуть стати зіниці.

© guo et al., 2021

Якщо у людини немає певних рідкісних патологій, форма зіниці зберігається майже строго округлої. Однак нейромережі не мають ніяких уявлень про правильну анатомії, і на створених ними портретах зіниці часто виявляються деформованими. “порівнюючи з реальними особами, можна замінити, що у осіб, згенерованих gan, в області очей видно різні артефакти і невідповідності», — пишуть автори статті.

Щоб продемонструвати, що цей підхід дозволяє ефективно відрізняти справжні обличчя від штучних, команда розробила нескладний алгоритм, який визначає форму зіниці. Випробування на наборі з 2000 фотопортретів (половина з яких були знімками реальних людей, а половина створена gan) підтвердили, що за цією ознакою їх можна розрізняти майже безпомилково. Принаймні, до тих пір, поки інші програмісти не виправили невеликий ” баг ” в роботі своїх нейромереж.