В OpenBSD переименовали поле в pfsync после ложного AI-отчёта об уязвимости

Тэо де Раадт (Theo de Raadt) переименовал название поля в заголовке пакета pfsync после поступления ложного отчёта об уязвимости, сгенерированного AI-инструментами. Поле
«pfcksum[PF_MD5_DIGEST_LENGTH]» переименовано в «spare[16]», так как AI-модель полагала, что имя pfcksum свидетельствует о хранении в поле хэша или контрольной суммы содержимого пакета и, так как поле не проверялось, считала, что в коде есть уязвимость.

Тэо пояснил, что на раннем этапе разработки pfsync указанное поле было добавлено для хранения хэша набора правил с целью оптимизации проверки состояния. В конечном счёте от этой идеи отказались, но поле было оставлено для сохранения обратной совместимости и всегда оставалось заполненным нулями. В коде данное поле лишь упоминалось в структуре пакета, но не проверялось и не заполнялось.

В сгенерированном AI-отчёте утверждалось о наличии уязвимости, так как поле вычисляется при отправке пакета, но не проверяется при получении. В отчёте детально пояснялся принцип работы и источник проблемы, но на деле — это было AI-галлюцинацией, выдуманной лишь на основании использования в коде слов «pfcksum» и «PF_MD5_DIGEST_LENGTH». Человек, использовавший AI для поиска уязвимости, не потрудился проверить результат перед отправкой отчёта об уязвимости.

Источник: http://www.opennet.ru/opennews/art.shtml?num=65196