Тимнит Гебру назвала разговоры об «экзистенциальной угрозе» ИИ отвлечением от реальных проблем

Исследовательница искусственного интеллекта Тимнит Гебру считает, что предупреждения о возможном уничтожении человечества ИИ выгодны разработчикам и отвлекают регуляторов от уже существующих рисков. Она призвала сосредоточиться на прозрачности обучающих данных, ответственности компаний, эксплуатации работников и воздействии дата-центров на окружающую среду.

Исследовательница искусственного интеллекта и бывшая сотрудница Google Тимнит Гебру заявила в интервью WIRED, что не считает ИИ экзистенциальной угрозой человечеству. По её мнению, подобная риторика служит маркетинговым интересам разработчиков и помогает им добиваться особого отношения со стороны властей.

Гебру утверждает, что обсуждение гипотетического сверхинтеллекта отодвигает на второй план уже наблюдаемые проблемы: непрозрачность обучающих наборов данных, нарушения авторских прав, эксплуатацию разметчиков, экологические издержки дата-центров и склонность пользователей чрезмерно доверять автоматизированным системам.

Исследовательница также отвергла заявления о том, что современные большие языковые модели обрели способность рассуждать. По её словам, они по-прежнему воспроизводят статистические закономерности обучающих данных, а устойчивость заявленных возможностей необходимо проверять на открытых и воспроизводимых тестах.

Вместо разработки специальных исключений для индустрии ИИ Гебру предложила применять к компаниям действующие нормы о недобросовестной рекламе и ответственности, а также требовать документирования происхождения данных и методик оценки моделей.