YouTube bietet eine Vielzahl von Videos, die ein breites Publikum ansprechen, aber manchmal sind Videos etwas zu leicht zugänglich. Erwachsene Animationen wie "Happy Tree Friends" oder "Don't Hug Me I'm Scared" können Kinder mit ihren leuchtenden Farben oder Muppet-ähnlichen Puppen ansprechen, auch wenn sie nicht für Kinder geeignet sind. Laut einem Bericht von BuzzFeed News könnte die Videoplattform jedoch Beschwerden mit einer aktualisierten Version der YouTube Kids-App begegnen, die von echten Menschen überwacht wird. Rompers Bitte um einen Kommentar von YouTube zu Berichten über das Update wurde nicht sofort zurückgesandt.
Laut BuzzFeed News soll diese neue App neben YouTube Kids existieren, dem ursprünglichen Versuch des Unternehmens, mithilfe eines Algorithmus Inhalte zu filtern, die für Kinder zugänglich sind. Die Nachrichtenagentur berichtete, dass Eltern die Möglichkeit haben werden, algorithmisch vorgeschlagene Videos auszuschalten. Stattdessen hätten Kinder keinen Zugang zu Videos, die nicht von einem Menschen aus Fleisch und Blut gezeigt wurden. Es macht Sinn; Algorithmen können großartig sein, aber es ist ein Computerprogramm und es kann nur zum Lesen und Markieren für so viel codiert werden.
Die YouTube Kids-App blockiert einfache Suchanfragen nach ungeeigneten Videos. Wenn Sie nach expliziten Inhalten suchen, werden keine Ergebnisse angezeigt. Darüber hinaus hatten Eltern die Möglichkeit, die Suchschaltfläche vollständig zu entfernen, sodass nur ausgewählte Videos verfügbar waren. Wie Tech Radar berichtete, gibt es jedoch seit einiger Zeit Bedenken in Bezug auf Videos, die YouTube Kids den Kindern vorgeschlagen hat. Obwohl YouTube Kids ein anständiger Versuch ist, schädliche Informationen herauszufiltern, gibt es Fälle, in denen die App Kindern angeblich Verschwörungsvideos vorschlägt, wie von Business Insider berichtet.
Andere Videos enthielten Behauptungen, dass die Welt flach ist, die Mondlandung gefälscht wurde und dass der Planet laut Business Insider von Reptilien-Menschen-Hybriden regiert wurde. YouTube Kids hat jedoch seit seiner Einführung im Jahr 2015 größere Probleme als Verschwörungstheorien. Weniger als zwei Monate nach der Veröffentlichung der App im Mai 2015 beklagte sich die Kampagne für eine werbefreie Kindheit, eine Koalition von Interessengruppen für Kinder und Verbraucher an die Federal Trade Commission (FTC). Zu ihren Anliegen gehörten Inhalte, die die Gruppe als "nicht nur … störend für Kleinkinder, sondern potenziell schädlich" bezeichnete.
Durch die Verwendung beliebter Zeichentrickfiguren wie Spiderman und Elsa konnten YouTubers Kinder zu anstößigen Videos verleiten. Laut Polygon begannen die Videos normal, zeigten aber bald Prinzessinnen, Superhelden und andere Favoriten, die an unzüchtigen oder gewalttätigen Handlungen teilnahmen. Da ein algorithmisches System nicht das gesamte Video scannt, konnten YouTubers das System umgehen, indem sie Videonamen und Miniaturansichten verwendeten, die der Algorithmus als sicher für Kinder ansah.
Weitere Themen, über die Polygon berichtet, sind: explizite sexuelle Sprache inmitten von Zeichentrickfilmen, eine Schimpfwort-Parodie des Films Casino mit Bert und Ernie aus der Sesamstraße, grafische Diskussionen von Erwachsenen über Gewalt in der Familie, Pornografie und Selbstmord von Kindern. Witze über Pädophilie und Drogenkonsum und Modellierung unsicherer Verhaltensweisen.
Hier würde die gemeldete App einspringen. Anstatt sich auf leicht zu täuschende Algorithmen zu verlassen, müssten alle Inhalte durch echte Menschen gefiltert werden. Berichten zufolge teilte die Quelle BuzzFeed News mit, dass die Whitelist-Option der App in den kommenden Wochen veröffentlicht werden könnte. Laut BuzzFeed News hat YouTube die Pläne für die App nicht bestritten, aber angeblich angegeben: "Wir arbeiten ständig daran, YouTube-Kinder zu aktualisieren und zu verbessern, kommentieren jedoch keine Gerüchte oder Spekulationen."
Laut Polygon hat YouTube-CEO Susan Wojcicki erklärt, dass das Unternehmen sein Moderations-Corps im Jahr 2018 auf mehr als 10.000 Auftragnehmer ausweitet und sich auf Inhalte konzentrieren würde, die möglicherweise gegen die Richtlinien von YouTube verstoßen. „Menschliche Prüfer sind nach wie vor unerlässlich, um Inhalte zu entfernen und Systeme für maschinelles Lernen zu trainieren, da menschliches Urteilsvermögen für das Treffen kontextualisierter Entscheidungen in Bezug auf Inhalte von entscheidender Bedeutung ist“, schrieb sie im Dezember 2017 in einem Blogbeitrag.
Die folgende Erklärung wurde von YouTube zu der Zeit an Polygon veröffentlicht:
Inhalte, die Kinder irreführen oder gefährden, sind für uns nicht akzeptabel. Wir haben klare Richtlinien gegen diese Videos und setzen diese aggressiv durch. Wir verwenden eine Kombination aus maschinellem Lernen, Algorithmen und Community-Kennzeichnung, um Inhalte in der YouTube Kids-App zu ermitteln. Das YouTube-Team setzt sich aus Eltern zusammen, denen dies sehr am Herzen liegt, und die sich dafür einsetzen, die App jeden Tag besser zu machen.
Obwohl YouTube die Entwicklung dieser neuen App noch nicht bestätigt hat, scheint sie den Richtlinien und Standards des Unternehmens zu entsprechen. Hoffentlich wird YouTube weiterhin auf die Probleme mit YouTube Kids reagieren, sodass Eltern darauf vertrauen können, dass ihre Kinder nicht mit störenden Inhalten in einer App vertraut werden, die für Kinder vermarktet wird.
