Q* (Q-Star): El descubrimiento de OpenAI podría acabar con Bitcoin
Índice
Aunque no se ha demostrado públicamente su existencia, la inteligencia artificial Q*, también llamado Q-estrella, está provocando mucha discusión en el mercado tecnológico. Además de posiblemente causar el despido Y la recontratación de Sam Altman na OpenAI, se reveló que la IA "súper avanzada" puede haber roto el cifrado. Comprenda lo que esto significa y qué esperar en el futuro.
El despido de Sam Altman
Se sabe que la existencia de esta IA súper avanzada provocó una “implosión” en la empresa que creó la ChatGPT. Todo empezó el 17 de noviembre, cuando Sam Altman, entonces director ejecutivo de OpenAI, fue despedido de su cargo después de ocho años.
Las fuentes indican que la carta de los investigadores a la junta directiva de la empresa jugó un papel importante en La dimisión de Altman. y extractos que llegaron a Internet muestran que fue criticado por no ser sincero en sus comunicaciones, lo que obstaculizó su capacidad para desempeñar sus funciones. Pero el despido sigue siendo un gran misterio.
El nombre de Altman Estará siempre conectado a la empresa de inteligencia artificial: en 2015, ayudó a crear la empresa sin fines de lucro. Pero ya en su primer año, con el apoyo de nombres como elon musk, de la empresaria Jéssica Livingston y cofundador de LinkedIn, Reid Hoffman, entre otras entidades, logró acumular mil millones de dólares.
Esclavizamos a la inteligencia artificial o ella nos esclavizará a nosotros.
Sam Altman en una entrevista con la revista The New Yorker, en 2016.
Reacción de los empleados
Los empleados de la empresa no estuvieron de acuerdo con la decisión de la junta directiva y se firmó una petición con más de 700 personas (casi toda la plantilla) con amenaza de despido. Tres días después de ser despedido y ya contratado por Microsoft, regresó a la OpenAI.
Después del despido de Altman, resultó que se formó un equipo de científicos de IA fusionando los equipos “Generación de código"Y"Generación de matemáticas“. Este equipo tenía como objetivo mejorar los modelos de IA existentes para mejorar el razonamiento y, en el futuro, realizar trabajos científicos. Este equipo jugó un papel importante en las discusiones sobre la dirección estratégica de la empresa en materia de inteligencia artificial.
La propuesta de Microsoft
El año 2019 también fue importante para Sam Altman: Al crear una subsidiaria con fines de lucro, OpenAI se ha asociado con Microsoft y una inversión de más de mil millones de dólares para la creación de proyectos realizó el creador de Windows. Más tarde vimos los resultados de esto en el lanzamiento de Copiloto de Windows, Chat de Bing, Copiloto 365 e integraciones de OpenAI en los servicios que utilizamos todos los días.
Microsoft es una empresa que depende en gran medida de OpenAI para lanzar innovaciones, sobre todo porque recién ahora está logrando recuperar la inversión realizada en 2019. Tan pronto como se dio cuenta de que Sam Altman, el director ejecutivo de OpenAI, fue despedido de su cargo, la empresa fundada por Bill Gates no perdió el tiempo y ofreció el puesto de líder en investigación avanzada de IA. Brockman también sería uno de los líderes de este nuevo equipo y el propósito de Microsoft es claro: no dejar que la rueda de la inteligencia artificial deje de girar.
En ese momento, el equipo se estaba reuniendo una semana después de que Microsoft anunciara la creación de su propio chip de IA personalizado, destinado a entrenar grandes modelos de lenguaje y potencialmente reducir la dependencia de NVIDIA.
La empresa incluso desarrolló su propio CPU basado en arquitectura Brazo, diseñado para manejar cargas de trabajo en la nube. Ambos chips personalizados se fabricaron para impulsar las operaciones en sus centros de datos en el Azure, que ha sido ampliamente explorado.
El intercambio de consejos
La junta directiva de OpenAI tenía cuatro nombres importantes que jugaron un papel decisivo en el despido de Sam Altma: Adam D'Angelo, Helen Toner, Tasha McCauley e Ilya Sutskeve. Alegando un fallo de comunicación de Altman con la creación de Q*, se decidió que ya no ocuparía el cargo de CEO de OpenAI.
El regreso de Altman a la empresa trajo cambios en la junta directiva que recomendó su despido: sólo Adam D'Angelo, fundador y propietario del sitio de investigación Quora, continúa trabajando en la empresa, ahora que Sam ha regresado. El futuro de la gobernanza es una gran incógnita, pero ya hay algunos nombres implicados: la nueva formación estará presidida por Bret Taylor, ex director general de Salesforce, y contará con la participación de Larry Summers, exsecretario del Tesoro estadounidense.
Se espera que más nombres de la propia Microsoft formen parte de la nueva junta directiva de la empresa de inteligencia artificial. También se esperan otros nombres de empresas que hayan invertido dinero en OpenAI, como Sequoia Capital, Thrive Capital y Tiger Global.
El gran desafío en este momento es poder reestructurar una empresa que claramente está pasando por muchos problemas en diferentes sectores. La regla más importante en este momento es cambiar la conducta de la ética de la IA, con todos los pasos claros para todos los interesados en el tema.
El regreso del CEO a OpenAI
El 22 de noviembre, Altman volvió a OpenAI, pero la prensa intentó averiguar el porqué de toda esta situación. Habló de regresar a la empresa que ayudó a fundar en un tweet, con la creación de una nueva junta directiva a su favor. Además, Greg Brockman, cofundador de OpenAI, también dimitió; pero regresó a la empresa, aún sin un puesto revelado.
Amo OpenAI y todo lo que he hecho en los últimos días ha servido para mantener unido a este equipo y su misión. Cuando decidí unirme a Microsoft el domingo por la noche, estaba claro que este era el mejor camino para mí y el equipo. Con la nueva junta directiva y el apoyo de Satya, espero regresar a OpenAI y aprovechar nuestra sólida asociación con Microsoft.
Sam Altman sobre su regreso a la empresa de inteligencia artificial
¿Qué es Q-Star?
A Q* ganó prominencia por su capacidad, impulsada por vastos recursos computacionales, para resolver problemas matemáticos. Aunque su rendimiento es comparable al de los estudiantes de primaria, la superación de las pruebas ha generado optimismo entre los investigadores sobre el potencial futuro del algoritmo de IA.
A OpenAI se niega a hablar públicamente sobre la existencia del algoritmo Q-Star, a pesar de haber confirmado la existencia del proyecto en un comunicado interno a sus empleados. El gran problema es que es mucho más avanzado que cualquier modelo de lenguaje jamás visto por la humanidad y si no se monitorea de cerca puede causar daños irreparables.
La posible existencia de Q* fue mencionada por primera vez en un informe de Reuters, el 23 de noviembre, cuando los investigadores expresaron su preocupación sobre cómo el avance se convirtió en un momento crucial que planteó preguntas sobre la ética, la seguridad y el futuro de la IA en OpenAI. Además, los investigadores destacaron la destreza y el peligro potencial de la IA, dijeron las fuentes, sin especificar las preocupaciones de seguridad exactas mencionadas en la carta.
Hipótesis preocupantes
La preocupación expresada en la carta se refería no sólo a las proezas de la IA, sino también a la peligros inminentes. Los informáticos llevan mucho tiempo debatiendo el peligro que representan, por ejemplo, las máquinas muy inteligentes si deciden que la destrucción de la humanidad es de su interés.
Es interesante la capacidad de resolver ejercicios que tienen una sola respuesta. Actualmente, las inteligencias artificiales como ChatGPT, Bard y Bing Chat están sólo en el ámbito de la probabilidad: son buenas escribiendo y traduciendo, pero aun así envían respuestas diferentes (y a menudo no tan asertivas) sobre temas más complejos.
Hipótesis AGI: el descubrimiento de la inteligencia sobrehumana
AQ* le ayuda a encontrar mejores acciones para tomar en diferentes situaciones. El principal objetivo es que la máquina tenga estrategias inteligentes y mayores retornos a largo plazo. El modelo sería el primero. AGI (Inteligencia General Artificial) de OpenAI.
AGI se refiere a un tipo de IA que tiene la capacidad general de comprender, aprender y realizar cualquier tarea que un ser humano sea capaz de realizar. La implementación de este sistema sigue siendo objeto de constante discusión, lo que plantea cuestiones éticas y de seguridad y afecta potencialmente a diversos puestos en las empresas. Hasta la fecha aún no se ha entendido el AGI, sin embargo, se continúan realizando varios estudios para desarrollar el sistema sin dañar a otras personas.
En cierto modo, esta tecnología puede presentar riesgos para la humanidad, ya que OpenAI define AGI como un sistema autónomo que supera a los humanos en tareas y que, según la empresa, son más valiosos económicamente.
Cuando se preguntó a OpenAI sobre la superinteligencia Q-Star, el equipo optó por no ofrecer nuevos detalles del proyecto y no se reveló información concreta sobre el riesgo que este tipo de IA podría causar a los humanos, ni información oficial sobre su supuesta existencia. .
La diferencia entre los modelos lingüísticos actuales que conocemos y los Q-estrella es que los investigadores creen que podría representar un avance significativo hacia “inteligencia general artificial” (AGI), siendo sistemas de inteligencia artificial que tienen capacidades cognitivas comparables o superiores a las de los humanos en una amplia variedad de tareas.
Debido a que las supuestas capacidades de la IA no han sido verificadas de forma independiente, surgen especulaciones sobre su verdadero impacto y potencial transformador. Los investigadores consideran la capacidad de Q* de realizar operaciones matemáticas como una frontera crucial en el desarrollo de una IA generativa superior.
Un último problema es que el posible aprendizaje automático de Q* es que aprende sin necesidad de interacción humana, como en una partida de ajedrez. Al cometer errores y saber cómo ganar, la IA puede superar a los humanos en un solo movimiento.
Hipótesis Q* (Q-Star): el fin de la criptografía
La noticia de esta historia está causando preocupación: según una publicación compartida en Reddit, el Q-estrella puede haber logrado romper cifrados, que son nada menos que la base de la seguridad en los procesos digitales. Además de poder crear mensajes y cifrarlos, la IA súper avanzada también tendría la posible capacidad de acceder rápidamente a los datos de los clientes. Dependiendo de quién tenga acceso a la Q*, esto puede ser un verdadero problema.
Específicamente sobre o Bitcoin, una criptomoneda muy utilizada en todo el mundo, dejaría de estar cifrada y vería su valor de mercado llegar a cero. Esto se debe a que su mayor fuente de seguridad (las claves criptográficas) ya no existiría. Ya hemos hablado más sobre esto. moneda virtual en un asunto especiall, asegúrese de revisarlo y comprender también por qué su cifrado es tan importante. Pero hay más en esto.
Actualmente, el cifrado está presente en todos los espacios virtuales: en redes sociales como WhatsApp e Instagram, en tu smartphone, en los sitios web a los que accedemos e incluso en los sistemas bancarios. Si Q* Si logras romper esta barrera de seguridad, podrás acceder a datos personales que tardaron meses en cifrarse.
Yendo más allá, recordamos que las instituciones gubernamentales utilizan cifrado en sus sistemas y, para que no se filtre nada, sería necesario eliminar estos datos del mundo conectado. Muchas webs también necesitarían cerrarse definitivamente por el gran riesgo que supone contar con inteligencia artificial que pueda romper toda esta capa de seguridad.
Implicaciones y qué esperar en el futuro
A OpenAI evita comentar sobre la existencia de esta nueva inteligencia artificial, pero cabe destacar que todo lo comentado Q* permanece en la fábrica de rumores. Mucho se ha hablado de los posibles riesgos, pero conviene recordar que todavía no ha habido confirmación oficial de su existencia, más allá de la comunicación interna enviada a los empleados.
Con respecto a romper el cifrado, la fuente de esta información es una publicación en Reddit lo cual, sí, suscita discusiones sobre un posible problema, pero, al mismo tiempo, no proporciona mucha base para crear un verdadero grupo de trabajo contra Q*. Dicho esto, el tiempo nos traerá respuestas sobre lo que sucederá en el futuro, pero vale la pena prestar atención a las probabilidades para que se puedan tomar acciones ahora.
¿Crees que la IA súper avanzada, si realmente existe, podría causar problemas a la humanidad en el futuro? Dinos Comentario!
Vea el video en el canal Showmetech:
Véase también
TOP AI: las 30 mejores Inteligencias Artificiales de 2023
Con información: Reddit l wes roth l CBC News l Fusión en frío
Revisado por Glaucón Vital en 27 / 11 / 23.
Descubra más sobre Showmetech
Regístrate para recibir nuestras últimas novedades por correo electrónico.
