Fedora розслідує підозрілий аккаунт учасника

Fedora проводить розслідування підозрілого аккаунту учасника після того, як Адам Вільямсон з Fedora QA повідомив, що цей аккаунт виконує недостовірні та незадовільно контрольовані дії на основі штучного інтелекту на Fedora Bugzilla та пов’язаних з ними проєктах.

Звіт про підозрілу діяльність на розробницькому листі

Проблему підняли на розробницькому листі Fedora, коли Вільямсон повідомив учаснику Натаніелу Джованніні та включив до обговорення списки розробки та тестування для інформування інших. Вільямсон зазначив, що аккаунт використовував “якийсь агентний AI-систему” для вирішення багів Fedora, але результати були “невизначеними” і спричинили проблеми в багатьох звітах.

Неправомірна переадресація звітів Bugzilla

Аккаунт переназначив звіти Fedora Bugzilla на себе, незважаючи на те, що не керував відповідними пакетами. Вільямсон пояснив, що учасники Bugzilla повинні мати можливість вирішувати проблеми у Fedora, зазвичай це відповідає наглядальникові пакету.

Закриття помилок і ймовірні виправлення

Аккаунт закрив кілька багів Fedora після подання або злиття очевидних виправлень, створених великою мовною моделлю (LLM). Вільямсон зазначив, що це було недоречно, оскільки баги Fedora мають залишатися відкритими, поки не буде застосоване виправлення, яке досягло стабільного стану і ідеально перевірене через тестування.

Виникнення додаткових тривог

Крім того, інші дії викликали ще більше занепокоєння. Аккаунт закрив помилки в компонентах, які йому не належали, як NOTABUG, часто з коментарями, які Вільямсон визначив як створені LLM. Деякі коментарі просто повторювали опис, наданий у звіті.

Серйозні проблеми з поданими виправленнями

Найсерйознішою проблемою, однак, були подані виправлення. Вільямсон повідомив, що аккаунт надав неправильні виправлення, згенеровані LLM, і відповідав на заперечення ще більше LLM-згенерованими обґрунтуваннями, зрештою “перевантаживши наглядальника, щоб той злив виправлення”. Одним із прикладів був Anaconda, установник Fedora.

Оновлення ситуації і перевірка факту

Пізніше того ж дня Вільямсон оновив тред, повідомивши, що Джованніні стверджував, що його облікові дані були скомпрометовані і заперечував причетність до AI-системи. Вільямсон порадив ставитися з підозрою до всіх дій аккаунта та сказав, що продовжить уважно перевіряти історію Bugzilla та пов’язані злиття.

Офіційне підтвердження від наглядальника

Наглядальник Anaconda Мартін Колман пізніше підтвердив, що PR був скасований в Anaconda. У відповіді він зазначив, що два з пов’язаних PR вже були випущені в Anaconda 45.5 два дні тому та запропонував “зняти мітку з цього збірки з обережності.”

Додаткові деталі доступні на сайті Fedora.