Джон Джаннандреа, глава поискового бизнеса Google, не боится восстания разумных роботов. Вместо этого он обеспокоен возможной предвзятостью алгоритмов на основе машинного обучения, которые принимают миллионы решений каждую минуту.
«Настоящая проблема безопасности, если вам угодно так ее называть, состоит в том, что если мы даем этим системам необъективные данные, они сами становятся необъективны», — сказал Джаннандреа на конференции Google, посвященной отношениям между людьми и системами искусственного интеллекта.
При этом проблема наличия в машинном обучении систематических ошибок становится тем значительнее, чем больше технология проникает в такие области, как медицина или юриспруденция, где любая неточность может стоить человеку жизни, и чем больше людей без технического образования начинают ее использовать. Некоторые эксперты считают, что алгоритмические ошибки уже наносят вред многим областям, однако почти никто не обращает на это внимания и не исправляет ситуацию.
«Важно, чтобы мы соблюдали прозрачность относительно данных, которые мы используем для обучения ИИ, и искали в них неточности, иначе мы создадим предвзятые системы, — говорит Джаннандреа. — Если кто-то пытается продать вам черный ящик, который ставит медицинский диагноз, а вы не знаете, как он работает или на каких данных его обучали, то я бы не стал ему доверять».
Вместе с тем, следует отметить, что системы, представляющие собой «черный ящик», уже оказывают серьезное влияние на жизни многих людей. Так, система под названием COMPAS, созданная компанией Northpointe, предсказывает вероятность рецидива подсудимых. Принципы работы COMPAS держатся в секрете; более того, исследование, проведенное ProPublica, продемонстрировало, что система может работать неадекватно, однако некоторые судьи продолжают брать ее выводы во внимание.
Любопытное исследование на этот счет провела недавно Кэрри Карахалиос, профессор информатики Университета штата Иллинойс. Карахалиос обнаружила, что пользователи Facebook зачастую не понимают, как алгоритмы социальной сети формируют новостную ленту. В то же время на сегодняшний день доподлинно известно, что эти алгоритмы существенным образом влияют на мнения пользователей и на их восприятие тех или иных событий.
Корпорация Google также работает над системами машинного обучения и активно предлагает собственные ИИ-решения коммерческим компаниям. Как сообщается, ИИ-системы гораздо эффективнее традиционных алгоритмов и потому позволяют бизнесу экономить драгоценные время и деньги. Вместе с тем, чем более мощной является ИИ-система, тем с большей вероятностью в ее работу может закрасться ошибка, предупреждает Джаннандреа.