En una carta obtenida de manera exclusiva, Apple explicó a los senadores de EE. UU. cómo ha estado trabajando entre bastidores para abordar el aumento viral de las falsificaciones profundas de contenido sexual producidas por Grok a principios de este año. Aquí están los detalles.

Apple trabajó entre bastidores para abordar la controversia de Grok

A principios de este año, después de que los usuarios descubrieran que el chatbot podía fácilmente cumplir con las solicitudes para hacer que las personas en las fotos, especialmente mujeres, se quitaran la ropa, Apple se enfrentó a una intensa presión para retirar a Grok y a la aplicación X de la App Store.

Apple se mantuvo en gran medida en silencio durante la controversia, pero según un informe de NBC News, la compañía determinó entre bastidores que “X y Grok estaban violando las reglas” y “amenazó en secreto con retirar a Grok de la App Store.”

El informe continúa señalando que Apple “se comunicó con los equipos de X y Grok después de recibir quejas sobre el escándalo y ver las noticias” y que “solicitó a los desarrolladores de la aplicación que elaboraran un plan para mejorar la moderación de contenido.”

En respuesta, X presentó una actualización de la aplicación Grok para revisión, pero fue rechazada porque “los cambios no fueron lo suficientemente avanzados.” La compañía de Elon Musk luego presentó versiones revisadas de las aplicaciones X y Grok, de las cuales solo una fue aceptada.

Según la carta de Apple, NBC News:

“Apple revisó las solicitudes posteriores realizadas por los desarrolladores y determinó que X había resuelto significativamente las violaciones, pero la aplicación Grok continuó siendo incompatible. Como resultado, rechazamos la solicitud de Grok y notificamos al desarrollador que se requerirían cambios adicionales para corregir la violación, de lo contrario, la aplicación podría ser retirada de la App Store. […] Después de interacciones y cambios adicionales por parte del desarrollador de Grok, determinamos que Grok había mejorado significativamente y así aprobamos su última solicitud.”

Estos detalles no se habían hecho públicos hasta ahora, pero ayudan a explicar los complejos cambios de moderación anunciados por xAI en el momento en que los comentarios alcanzaron su punto máximo. Estos cambios incluían restricciones sobre quién podría utilizar las herramientas de imagen de Grok y limitaciones sobre las ediciones relacionadas con fotos de personas reales.

Sin embargo, en un informe separado publicado hoy, NBC News señala que Grok “continuó produciendo imágenes de contenido sexual sin el consentimiento de las personas” y enfatiza que ha documentado decenas de ejemplos de tales casos en el último mes.

El informe señala que el volumen de imágenes ha disminuido significativamente desde enero, pero un grupo de usuarios aún pudo eludir las restricciones para vestir a las mujeres “en ropa más reveladora, como toallas, sujetadores deportivos, trajes de Spider Woman ajustados al cuerpo o disfraces de conejito.”

Haga clic aquí para leer el informe de pago de la carta que Apple envió a los senadores de EE. UU. Haga clic aquí para leer el informe sobre los problemas continuos de Grok con las falsificaciones profundas de contenido sexual.

Productos que valen la pena revisar en Amazon

  • David Pogue – ‘Apple: Los Primeros 50 Años’
  • MacBook Neo
  • Logitech MX Master 4
  • AirPods Pro 3
  • AirTag (2ª Generación) – Paquete de 4
  • Apple Watch Series 11
  • Adaptador CarPlay inalámbrico