У системі Gemini, яка інтегрована в Gmail, виявлено серйозну уразливість, що дозволяє зловмисникам здійснювати фішингові атаки за допомогою штучно створених резюме листів. Про це повідомляє ресурс BleepingComputer посилаючись на 0DIN.

Цю вразливість виявив Марко Фігероа — менеджер програми GenAI Bug Bounty у компанії Mozilla. За словами Фігероа, зловмисники можуть приховувати команди в тексті електронного листа, використовуючи білий колір та зменшуючи шрифт до нуля, що робить текст невидимим для людини, але доступним для аналізу системи Gemini. В результаті, штучний інтелект може автоматично додавати до резюме неправдиві сповіщення, наприклад, про злом пароля, разом із фальшивим номером підтримки.

Хоча деякі користувачі не реагують на такі повідомлення, інші можуть піддатися впливу емоційного характеру подібного контенту. Фігероа підкреслює, що команди безпеки можуть розробити методи виявлення прихованої інформації та аналізувати підсумки, які генерує штучний інтелект, на наявність URL-адрес, телефонних номерів або термінових повідомлень.

BleepingComputer звернувся до Google з приводу цієї вразливості в Gemini. Представник компанії відповів, що наразі не отримував жодних доказів зловживань, але додав, що Google активно працює над забезпеченням безпеки і незабаром впровадить додаткові заходи захисту.