Проф. Мартин Вечев – основател и научен директор на Института за компютърни науки, изкуствен интелект и технологии (INSAIT) към Софийския университет „Св. Климент Охридски“, е сред ограничен кръг водещи световни изследователи, избрани от OpenAI за изследването и усъвършенстването на нова технология за воден знак (watermarking) в текстове, генерирани от изкуствен интелект, съобщава Пресцентърът на МОН.
Технологията вгражда невидим статистически сигнал в начина, по който моделът генерира текст. Специален детектор може впоследствие да провери дали текстът съдържа този сигнал. За разлика от традиционните инструменти, които се опитват да преценят дали даден текст е написан от изкуствен интелект въз основа на неговия стил, тук идеята е да се открива вградена индикация за произхода на съдържанието.
Развитието на технологията идва в момент, когато европейските правила за прозрачност на съдържанието вече влизат в практическо приложение. За съществуващите системи Европейският акт за изкуствения интелект предвижда преходен срок до 2 декември 2026 г. за изпълнение на изискванията за машинно четимо маркиране и откриване на генерирано съдържание с изкуствен интелект. Това поставя технологиите и механизмите за доказването му във фокуса на AI индустрията.
Самият детектор за текст все още не е публично достъпен: компанията предоставя достъп на избрани изследователи, сред които е проф. Вечев, за да проучат технологията и да помогнат за нейното усъвършенстване.
Добави коментар