OpenAI anunció el martes la prohibición de varias cuentas de ChatGPT con presuntos vínculos con entidades gubernamentales chinas, después de que los usuarios solicitaran propuestas para monitorear conversaciones en redes sociales.
En su último informe público sobre amenazas, OpenAI indicó que algunas personas le pidieron a su chatbot que describiera herramientas de «escucha» en redes sociales y otros conceptos de monitoreo, lo que viola la política de seguridad nacional de la startup.
El informe de la empresa con sede en San Francisco plantea inquietudes de seguridad sobre el posible uso indebido de la IA generativa en medio de la creciente competencia entre Estados Unidos y China por definir el desarrollo y las normas de la tecnología.
OpenAI también anunció la prohibición de varias cuentas en chino que utilizaban ChatGPT para apoyar campañas de phishing y malware, y solicitó al modelo que investigara la automatización adicional que podría lograrse a través de DeepSeek de China.
También prohibió cuentas vinculadas a presuntos grupos criminales rusoparlantes que utilizaban el chatbot para desarrollar cierto malware, según informó OpenAI.
La startup, respaldada por Microsoft, ha interrumpido y reportado más de 40 redes desde que comenzó a reportar amenazas públicas en febrero del año pasado, y sus modelos rechazaron avisos abiertamente maliciosos, añadió la compañía de inteligencia artificial.
«No encontramos evidencia de nuevas tácticas ni de que nuestros modelos proporcionaran a los actores de amenazas capacidades ofensivas novedosas», declaró la compañía en el informe.
OpenAI, que ahora cuenta con más de 800 millones de usuarios semanales de ChatGPT, se convirtió en la startup más valiosa del mundo con una valoración de 500 mil millones de dólares tras completar una venta secundaria de acciones la semana pasada.
