Фри Гесс из Флориды вместе со своим сыном наткнулась на пугающее видео в YouTube Kids, специальном приложении, которое фильтрует контент для детей. Видео начиналось как нарезка из детской компьютерной игры Nintendo Splatoon. Но через четыре минут мультипликационный ролик прервался, и в кадре появился мужчина. Он начал рассказывать, как убить себя, порезав запястья. Об этой истории Фри Гесс написала на своём сайте PediMom.
Позже женщина нашла в YouTube Kids ещё несколько роликов, продвигающих, по её словам, «такие опасные темы, как самоповреждение, самоубийство, сексуальную эксплуатацию, торговлю людьми, домашнее, сексуальное насилие и насилие с применением огнестрельного оружия». Например, один из таких роликов имитировал стрельбу в школе.
Сейчас все ролики, о которых написала Гесс, удалены. Телеканал CNN опубликовал комментарий YouTube Kids: «Мы ценим людей, привлекающих наше внимание к проблемному контенту, и даём возможность каждому пользователю помечать видео. Помеченные видео мы проверяем вручную 24/7, а любые видео, не принадлежащие приложению, удаляем».
YouTube уже неоднократно критиковали за неприемлемый контент. В 2017 году ряд крупных компаний — PepsiCo, Walmart, Starbucks — отказались размещать рекламу на YouTube, поскольку площадке не удавалось отслеживать и удалять ролики антирасистского содержания.