К лучшему или худшему, Google Assistant может все это сделать. Из мирских задач, таких как включение света и установка напоминаний, чтобы убедительно имитировать человеческие речевые образы, помощник ИИ настолько способен, что это страшно. Его последняя (неофициальная) способность, однако, немного более зловещая. Художник Александр Ребен недавно научил Assistant стрелять из пистолета. К счастью, жертвой было яблоко, а не живое существо. 30-секундное видео, просто озаглавленное «Google Shoots», показывает, что Ребен говорит «OK Google, активируй пистолет». Всего через секунду пистолет стреляет, а помощник отвечает: «Конечно, включаю пистолет». На первый взгляд, отснятый материал не впечатляет. Но очевидно, что этот проект призван спровоцировать разговор о границах того, что ИИ должно быть разрешено делать.
Как сказал Ребен, «дискурс вокруг такого аппарата более важен, чем его физическое присутствие». Для этого проекта он решил использовать Google Assistant, но сказал, что это может быть Amazon Echo или другое устройство.
Ребен решил вооружить Assistant пистолетом. И учитывая проблемы, поднятые Duplex ИИ от Google с момента конференции в начале этого месяца, его решение проницательно.
В этом примере Ребен был тем, кто сказал помощнику «активировать пистолет». Он все еще является ответственным за действие. Но в мире, где машинное обучение привело к искусственному интеллекту, который достаточно умен, чтобы предвосхищать наши потребности и удовлетворять нашему комфорту каждый день, нетрудно представить себе день, когда цифровые помощники могут убивать людей, которые нас расстраивали, если им был предоставлен доступ к оружию. Кто же ответственен за смерть?
Достаточно легко сказать, что мы должны блокировать доступ ИИ к опасным устройствам. Но мы уже получили их в наших машинах, в армии и в других местах, о которых мы, наверное, даже не думали. Мы можем потребовать от компаний удостовериться, что их технологии не могут нанести вред, но просто невозможно планировать каждый случай, каждый возможный способ, в которым ИИ может быть изгоем.
«Часть сообщения для меня включает в себя непреднамеренные последствия технологии и тщетность рассмотрения каждого варианта использования», - сказал Ребен. Возможно, Google никогда не представляла себе, что Assistant используется для стрельбы с оружия. Но все, что потребовалось для Ребена, это то, что было частью его студии.
Он не чужд произведениям, изображающим способности искусственного интеллекта. Ребен создал проекты, которые показывают, что ИИ слышит и видит, когда подвергается «Радости живописи», а также скрывает крошечные произведения в URL-адресах. Это, однако, еще более провокационное произведение, которое заставляет зрителя представить, что может произойти, если гнусные программисты сделали ИИ, который стал изгоем. Теперь, более чем когда-либо, нам нужно обсудить вопрос о том, как и если мы можем помешать умной машине убить всех нас.
