Grace Gedye
CalMatters
Cuando Sophie Szew descargó Instagram por primera vez en su fiesta de cumpleaños número 10, estuvo expuesta a una ráfaga de información que “promovía los trastornos alimentarios”, dijo a los legisladores de California. A los 15, dijo, estaba siguiendo “todos los regímenes de inanición recomendados” por la página “explorar” de Instagram.
Szew, que ahora tiene 20 años, habló en Sacramento en una audiencia del Senado en abril en apoyo de un proyecto de ley expansivo que se está abriendo paso en la Legislatura. Este responsabilizaría legalmente a las empresas por el uso de algoritmos y características de diseño que vuelven adictos a los jóvenes.
“Hoy me acompaña una generación que sabe muy bien lo que es ser dañado por sistemas defectuosos”, dijo.
Los últimos años han visto un goteo constante de investigaciones e informes sobre los efectos de las redes sociales en los adolescentes. Eso se ha traducido en una corriente de actividad legislativa en todo el país, con varios estados aprobando o considerando leyes que regulan la forma en que las empresas de redes sociales hacen negocios.
En 2022, cuando los investigadores de una organización sin fines de lucro crearon perfiles de TikTok que se hacían pasar por niñas de 13 años en los EE.UU, Reino Unido, Australia y Canadá, descubrieron que TikTok recomendaba contenido suicida en 2.6 minutos y contenido sobre trastornos alimentarios en 8 minutos.
En 2021, después de que un denunciante filtrara documentos, el Wall Street Journal informó que los investigadores de Meta, anteriormente conocido como Facebook, descubrieron que el 32% de las adolescentes dijeron que cuando se sentían mal con sus cuerpos, Instagram las hacía sentir peor. Meta es propietaria de Instagram.
CalMatters se comunicó con Twitter, Reddit, Mastodon, TikTok y Meta, que también es propietaria de WhatsApp, para hacer comentarios. La bandeja de entrada de prensa de Twitter respondió automáticamente con un emoji de caca. Reddit, Mastodon y TikTok no respondieron.
En un comunicado, la directora global de seguridad de Meta, Antigone Davis, escribió que Meta quiere que los adolescentes estén seguros en línea: “No permitimos contenido que promueva el suicidio, las autolesiones o los trastornos alimentarios, y eliminamos o tomamos medidas del contenido. en adelante, identificamos más del 99% antes de que nos lo informen”.
Rachel Holland, una vocera de Meta, ofreció información sobre una variedad de funciones que los adolescentes y los padres pueden usar para dar forma a lo que ven los jóvenes, como una configuración que hace que los nuevos usuarios adolescentes tengan menos probabilidades de encontrar contenido sensible y una función que les avisa cuando han estado viendo el mismo tipo de contenido durante un tiempo.
Lo que hace el proyecto de ley de California
El proyecto de ley apunta a cómo las empresas de redes sociales ofrecen contenido a los jóvenes menores de 18 años. Específicamente, prohíbe que las empresas de redes sociales utilicen un diseño, algoritmo, característica o práctica que las empresas saben (o deberían saber) hace que los jóvenes:
- Desarrollar un trastorno alimentario, infligirse daño a sí mismos o a otros, o volverse adictos a la plataforma de redes sociales;
- Recibir contenido que facilite la compra de sustancias controladas, como opioides; que facilita el suicidio ofreciendo información sobre cómo morir por suicidio; o facilita la venta de armas ilegalmente.
Cubre empresas de redes sociales que ganan más de $100 millones en ingresos por año y tienen usuarios en California. Las empresas que violen la ley podrían ser demandadas por abogados públicos y enfrentarían multas de hasta $250,000 por violación.
Pero el proyecto de ley también crea una forma en que las empresas pueden protegerse de las demandas: mediante la auditoría de sus diseños, algoritmos, funciones y más, al menos trimestralmente, para determinar su potencial para causar los daños enumerados en el proyecto de ley y corregir los problemas dentro de los 30 días.
“Si miras un proyecto de ley como este, el punto decisivo del problema es el contenido”.
SOPHIA COPE, ABOGADA SÉNIOR, ELECTRONIC FRONTIER FOUNDATION
California no es el único estado donde los legisladores buscan regular las plataformas de redes sociales. En marzo, el gobernador de Utah promulgó un proyecto de ley similar, además de otra ley que instituye un toque de queda en las redes sociales para los adolescentes de Utah menores de 18 años y requiere que los adolescentes obtengan el permiso de sus padres para configurar cuentas en las redes sociales. Arkansas también aprobó una ley que requiere el permiso de los padres para que los adolescentes creen cuentas en las redes sociales. Los legisladores estatales de Nueva Jersey están considerando un proyecto de ley que prohíbe a las empresas de redes sociales utilizar funciones que hagan adictos a los niños, y los legisladores de Minnesota también están considerando un proyecto de ley de redes sociales. Luego, están los proyectos de ley que regularían las redes sociales con un objetivo diferente: Texas aprobó una ley que hizo ilegal prohibir a los usuarios en función de sus “puntos de vista”, y Florida también aprobó una ley que restringe la capacidad de las plataformas para prohibir a los usuarios.
Bottom of Form
Además de todas las nuevas propuestas, hay una gran cantidad de demandas que se abren camino en los tribunales y que podrían remodelar la regulación de las redes sociales. Las leyes de Texas y Florida fueron impugnadas por violar la Primera Enmienda; la Corte Suprema decidirá su destino. Se han agrupado más de 80 casos en una demanda gigante, en la que los demandantes dicen que las plataformas de redes sociales son esencialmente productos defectuosos, como una tostadora que explota, porque crean adicción a los niños.
Proyecto de ley de California podría enfrentar obstáculos legales
Si el proyecto de ley de California se convirtiera en ley, ¿sería capaz de esquivar y abrirse camino a través de los desafíos legales?
Los cabilderos de la industria tecnológica, así como algunos defensores de los derechos digitales y expertos en leyes de Internet, dicen que el proyecto de ley chocaría inmediatamente con la Primera Enmienda de la Constitución de los EE.UU. y la ley federal. Ambos superan o “se adelantan” en la jerga de los abogados, las leyes de California.
El proyecto de ley está en conflicto con la Constitución porque la Corte Suprema generalmente ha interpretado que la Primera Enmienda protege las decisiones editoriales de los editores, dijo Sophia Cope, abogada principal de la Electronic Frontier Foundation, organización sin fines de lucro, que se opone al proyecto de ley. Los periódicos deciden su diseño, lo que va en la portada y qué imágenes usar, dijo Cope. Las plataformas de redes sociales están haciendo cosas similares a las de los editores en línea cuando toman decisiones sobre cómo se muestra, comparte o promociona el contenido, dijo.
Este proyecto de ley “va directamente al corazón de la discreción editorial de estas plataformas”, dijo Cope.
“Es la Primera Enmienda la que restringe la capacidad de los legisladores para controlar el flujo de información hacia los niños” en la medida en que los legisladores deseen, estuvo de acuerdo Eric Goldman, profesor de la Facultad de Derecho de la Universidad de Santa Clara y experto en derecho de Internet. Su ejemplo: un caso de la Corte Suprema de 1997 sobre si una ley que prohibía la transmisión de pornografía o mensajes “obscenos o indecentes” a los niños violaba la primera enmienda. El Tribunal Supremo decidió por unanimidad que sí.
Ed Howard, asesor principal del Children’s Advocacy Institute de la Facultad de Derecho de la Universidad de San Diego y partidario del proyecto de ley, no está de acuerdo y argumenta que el proyecto de ley no viola la Primera Enmienda, en parte porque los algoritmos que priorizan qué contenido se muestra no tiene sus propios derechos de la Primera Enmienda. Y, dijo, “no hay inmunidad general para dañar a las personas a través de su discurso”.
Luego, hay una ley federal que podría plantear un problema para el proyecto de ley de California. La Sección 230 de la Ley de Decencia en las Comunicaciones generalmente protege a las empresas de tecnología de la responsabilidad legal por el contenido publicado por los usuarios en sus plataformas. Si, por ejemplo, alguien publica una reseña difamatoria de un restaurante en Yelp, el dueño del restaurante podría demandar al que la publicó, pero Yelp mismo estaría protegido, dijo Cope.
Entonces, una pregunta clave es si el proyecto de ley de California apunta a las características y algoritmos que ha diseñado una empresa de redes sociales, para lo cual puede no estar protegido por la Sección 230, o si realmente exige que las plataformas sean responsables del contenido que suben los usuarios.
La senadora estatal Nancy Skinner , una demócrata de Oakland autora del proyecto de ley, argumenta que el proyecto de ley responsabiliza a las empresas por sus propios productos y prácticas, por lo que la Sección 230 no se adelantará. Parte del trabajo del gobierno, dijo, “es para proteger a los consumidores de las prácticas comerciales nocivas. Ese es un papel muy clásico del gobierno”.
Pero, dijo Cope con Electronic Frontier Foundation, “si miras un proyecto de ley como este, el punto principal del problema es el contenido”. El proyecto de ley está estructurado para hacer que las plataformas sean “responsables del contenido inadecuado que llega a los jóvenes”, por lo que la ley federal debería evitarlo, dijo. Las características, en otras palabras, no son un problema cuando muestran #vanlife y videos de tejido a usuarios jóvenes, pero cuando ofrecen consejos sobre dietas de hambre, sí lo son.
El público puede quedar en vilo
La semana pasada, el proyecto de ley se envió al Comité de Asignaciones del Senado y se agregó a una pila especial de proyectos de ley que el comité analizará en cuanto a costos y beneficios. Esa pila de facturas, conocida como el “archivo en suspenso”, se trata oficialmente de un análisis presupuestario. Extraoficialmente, también es un lugar políticamente conveniente para que los legisladores eliminen proyectos de ley sin recibir críticas. Esto se debe a que, a diferencia de otras votaciones que realizan los legisladores estatales, las votaciones sobre proyectos de ley en suspenso se mantienen en secreto. Si un proyecto de ley nunca sale de la pila especial, el público no sabe qué votos llevaron a su desaparición.
El año pasado se presentó una versión del proyecto de ley. Ningún legislador votó en contra públicamente, pero el proyecto de ley quedó en suspenso y murió allí.
El proyecto de ley de este año “podría sufrir ese destino”, dijo Skinner, “pero tengo la esperanza de que la cantidad de mayor conciencia, mayor evidencia y acción por parte de otros estados lo pondrá en una forma mucho mejor”, dijo.
