OpenAI ofrece una recompensa por informar errores en ChatGPT
Índice
A OpenAI, una empresa responsable de soluciones de inteligencia artificial (IA), ofrece hasta $ 20 por informar errores en ChatGPT. Para poder alertar sobre vulnerabilidades, los usuarios deben mostrar errores a través de la plataforma de recompensa de errores Bugcrowd, donde se hizo el anuncio.
Mientras ofrece recompensas, el OpenAI advierte que los intentos de operar los sistemas de IA de la empresa con fines maliciosos no recibirán ninguna recompensa. Entiende en este artículo cómo la empresa entregará estos premios a quienes descubran los vicios de los servicios de IA y las reglas involucradas para obtenerlos.
¿Cómo recompensa OpenAI a los usuarios que encuentran errores en ChatGPT?
La compañía que anunció las propuestas de premios para encontrar errores dijo que está ejecutando este programa porque entiende que "una investigación sustancial y un enfoque amplio" son necesarios para algunos problemas. Así, la compañía pretende premiar los errores detectados que puedan “aligerar el listón” y mejorar el funcionamiento de servicios como ChatGPT.
“Nuestras recompensas van desde $200 por descubrimientos de bajo riesgo hasta $20 por descubrimientos excepcionales”
OpenAI
En otras palabras, tomando como referencia el tipo de cambio actual de la moneda estadounidense, si un usuario brasileño informara un error considerado más básico, su prima podría superar los R$ 980. casi R$ 100 mil.
La idea es que, con el programa de recompensas, OpenAI pueda reducir la posibilidad de fallas en el procesamiento de los datos de los usuarios. Al prestar mayor atención a la comunidad que usa sus soluciones, la empresa quiere que la gente no deje detalles explícitos de vulnerabilidad.
Errores y otros problemas no incluidos en el programa de recompensas
Son varios los informes y artículos que ya muestran el potencial beneficioso de ChatGPT —tanto para tareas sencillas, como planificar viajes, como para otras actividades más complejas, como evaluar códigos de programación— y, por otro lado, reportar respuestas que pueden ser más arriesgado: el servicio se puede usar para crear piezas de desinformación o incluso pasos elaborados para crear malware. En cuanto a estos problemas, Open AI ha enumerado algunas pautas para definir quién puede recibir recompensas por informar errores.
La lista en la página de Bugcrowd, llamada Fuera del ámbito (fuera de alcance, en traducción libre), indica que los errores por ataque, ya sea rompiendo contraseñas, destruyendo datos de terceros, filtrando identidades, entre otros tipos de ofensas, no recibirán las recompensas anunciadas. Las pautas también limitan cualquier intento de atacar el propio OpenAI, spam o intentos de fraude. Aún así, la compañía no recompensará a quienes planeen solicitar a los servicios de IA que presenten métodos para engañar a las personas a través de sitios web, con botones y servicios falsos.
Vulnerabilidades alertadas en ChatGPT con gran repercusión: algunos ejemplos
Hace unas semanas, ChatGPT se convirtió en noticia por mostrar un potencial dañino, ya que pudo eludir los sistemas de verificación, como CAPTCHA. Pero estos y otros errores pueden estar relacionados con otras causas, es decir, no necesariamente se deben a una mala gestión por parte de OpenAI.
En marzo, por ejemplo, un hacker llamado rezO incluso reveló 80 "complementos secretos" dentro de la API, abreviatura de Programa de aplicaciónraminterfaz de ming, o interfaz de programación de aplicaciones, en traducción libre; sirve para crear una interacción entre los servicios digitales, siendo importante para el funcionamiento de estos sistemas para el uso de las personas. Resulta que estas características aún no se habían implementado para el servicio de IA.
Como solución, OpenAI logró remediar el problema del complemento el mismo día en que se alertó de la ocurrencia. También en marzo, OpenAI incluso se disculpó por haber sido notificado de otro error en su sistema de respuesta rápida de IA. La advertencia fue que estaba ocurriendo un error que provocó la filtración de detalles de pago e incluso el historial de chat de algunos usuarios.
Vea también:
Google Bard: el competidor ChatGPT se anuncia para "pronto"
Bill Gates cita "La era de la IA acaba de comenzar" y reflexiona sobre ChatGPT
Descubra más sobre Showmetech
Regístrate para recibir nuestras últimas novedades por correo electrónico.
