Microsoft обязалась не использовать данные учащихся для обучения ИИ

Microsoft и американские профсоюзы учителей AFT и UFT согласовали десять договорных принципов безопасности и конфиденциальности для школьных ИИ-сервисов. Школьные округа США смогут включать эти требования в контракты с компанией и добиваться компенсации при их нарушении.

Microsoft, Американская федерация учителей (AFT) и нью-йоркский профсоюз United Federation of Teachers (UFT) представили национальный стандарт безопасности и конфиденциальности для ИИ в школах. Его требования распространяются на продукты, преимущественно предназначенные для образования, но не на обычные облачные, офисные и другие сервисы общего назначения.

Согласно полному тексту соглашения, Microsoft не должна использовать запросы, ответы, файлы, метаданные и другие сведения об учащихся и педагогах для обучения моделей. Предусмотрено только узкое исключение для систем безопасности, например обнаружения угроз, травли и материалов о причинении вреда самому себе. Компания также обязалась собирать только необходимые данные, не продавать их, не применять для рекламы и предоставить школам средства управления сроками хранения и удаления.

Стандарт запрещает функции ИИ-компаньонов, создающие эмоциональную зависимость, и требует человеческого контроля над решениями. Без проверки человеком нельзя проводить автоматическое оценивание; дисциплинарные решения, распределение учащихся, психологическая оценка и поведенческое наблюдение с помощью ИИ запрещены.

В течение 90 дней Microsoft должна предоставить образовательным организациям США простой способ добавить эти положения в действующие или новые договоры. После включения требований школы смогут применять договорные меры, включая расторжение контракта и требование компенсации. О подтверждённой или предполагаемой утечке затронутых данных компания должна сообщить не позднее чем через 72 часа после её обнаружения.