Европа может запретить технологии ИИ для тотальной слежки за гражданами

На днях в интернете появился черновик законопроекта Европейской Комиссии по правилам использования новейших информационных технологий в европейском обществе. В частности, в ЕС собираются строго регулировать технологии искусственного интеллекта, если они будут касаться сферы сбора данных о гражданах. За нарушение закона компании будут наказывать штрафом до 4 % от годовой выручки или не менее $20 млн евро.

По поводу сбора данных о гражданах с помощью систем наблюдения, мониторинга социальных сетей, банковской информации и из других источников сказано, что «неизбирательное наблюдение за физическими лицами должно быть запрещено, если оно применяется в обобщенном виде ко всем лицам без различия». Иначе говоря, «избирательное» наблюдение, если физическое лицо чем-то заинтересовало компетентные органы, вполне может допускаться, но тотальное слежение «на всякий случай», вероятно, в Европе будет запрещено.

Также законопроектом предусматривается запрет на введение системы социального рейтинга или социального кредитования, когда по гражданам накапливается массив больших данных о связях, поведении, покупках и другой информации, и на основе совокупности данных создаётся социальный портрет гражданина. В этом также помогает разобраться ИИ или нейронные сети. Подобное любят в банковском секторе, и Европа в этом плане не является исключением. Но дальше всего в создании системы социального кредитования пошли в Китае, где лицам с низким рейтингом отказывают в билетах на междугородний транспорт, в проживании в определённых районах и вводят ряд других ограничений.

По поводу социального рейтинга в законопроекте сказано: «Системы ИИ, используемые для оценки социальных показателей общего назначения, должны быть запрещены». Голосование по этому законопроекту ожидается 21 апреля. До этого момента представители Европейской Комиссии отказываются комментировать неутверждённый документ.