Daniel Rausch es vicepresidente de Amazon, Alexa y Fire TV. Me reuní con él recientemente y le pregunté sobre la dirección de la empresa y la palabra de moda del momento: IA generativa. Rausch es un orador atractivo y su comportamiento amigable y relajado coincide con su conocimiento forense de los productos y la estrategia de la empresa.
La IA generativa llega a los productos de Amazon con Alexa, ¿qué te parece? «Estamos muy entusiasmados de ponerlo en manos de los clientes. Realmente lo consideramos un punto de inflexión sobre lo que los clientes podrán hacer con Alexa, lo que obtendrán de Alexa y lo que valorarán en Alexa. Estamos construyendo sobre una base muy sólida con más de 500 millones de dispositivos vendidos que admiten Alexa a clientes de todo el mundo hasta el momento, por lo que el futuro de Alexa es muy brillante.
Es un gran intento de poner la IA en un megáfono, y ha llevado mucho más tiempo de lo que algunos esperaban, dada la velocidad a la que se ha extendido Chat GPT. Todo se reduce al medio, explica Rausch. «Bueno, estás resolviendo un conjunto de problemas muy diferente. Muchos chatbots basados en navegador tienen un contexto muy fijo: no tienen que conocerme personalmente y no los tengo como asistentes disponibles en mi casa». . Son excelentes para ayudar con un ensayo de historia de la universidad, pero no recibirás las noticias de ayer de él. Si quieres estar conectado a información actualizada y en tiempo real, ese es un problema muy difícil y es algo Estamos trabajando porque es lo que los clientes esperan de Alexa. Es un problema completamente diferente y más complejo de resolver que aprender sobre la historia de la Revolución Americana, por ejemplo. Así que estás buscando un intercambio natural a través de audio en un nivel bajo. -La forma de latencia es diferente.
Daniel Rausch, vicepresidente de Amazon, Alexa y Fire TV.
Amazonas
Los grandes modelos de lenguaje son fundamentales para la IA generativa, y eso es lo que hace LLM en Amazon. ¿Es el mismo usuario en Amazon Web Services? «Es un modelo personalizado y ajustado para Alexa», dice Rausch, y agrega: «Obviamente aprovecha gran parte de la tecnología que tenemos internamente. Pero este es un programa básico de LLM de Alexa que esencialmente ha sido entrenado específicamente, dadas las complejidades». de lo que Alexa necesita hacer: usas sonido, tiene que ser rápido y ves que se integra de maneras únicas. Este tipo de integración es un trabajo técnico y científico completamente nuevo.
Tradicionalmente, los grandes modelos lingüísticos no han podido incorporar información de última generación en sus resultados. ¿Alexa será diferente y, de ser así, cómo? «No voy a ser demasiado técnico al respecto, pero tenemos tecnologías para llevar información en tiempo real al tiempo de ejecución, lo que significa que no necesariamente tienes que entrenar en todos los puntos de datos. La versión simple es, ya sabes, Me despierto por la mañana y soy un fanático del béisbol y pregunto sobre los Medias Rojas. Incluso si a los Medias Rojas les va peor cada día, sigo torturándome haciendo preguntas. Incluso 30 minutos o una hora después de una juego, puedo obtener los resultados. Asegurarme de que todo funcione Para los clientes es lo que importa.
Pero existe un cierto nivel de preocupación sobre la IA generativa, y es diferente en tu hogar. Si le pides a Chat GPT que responda una pregunta y te alucina y te dice tonterías, eso es una cosa, pero si le pides a Echo que cierre con llave la puerta de tu casa y él alucina y cierra la puerta equivocada, eso es mucho más preocupante. Rausch lo entiende. «Claro, o no cierra la puerta, ¿verdad? Estamos observando de cerca ese tipo de patrón para asegurarnos de que no suceda. Hay algunos esfuerzos específicos en marcha. Uno es arraigarlo profundamente en la historia, trabajando en todo, desde la historia profunda en la que ves que algunos LLM cometen errores, incluso logrando los resultados deportivos de ayer, ¿verdad? Está en vista previa, por lo que recibiremos comentarios de los clientes al respecto.
Entonces, ¿qué pasa con esta cerradura de puerta? «En términos de cosas como el sistema de seguridad, el bloqueo, sabemos que necesitamos hacerlo bien. Este es un espacio técnico muy nuevo. En los grandes modelos de lenguaje que están disponibles hoy en el navegador, funcionan a través de unas pocas aplicaciones Interfaces de programación (API). Las llaman extensiones, y tres son el máximo. Alexa utiliza cientos de API para realizar sus tareas. Por lo tanto, se está trabajando mucho en este conjunto específico de cuestiones y lo tomamos muy en serio.
No siempre tendrás que dirigirte a Alexa por su nombre acerca de las mejoras que estás realizando ahora, simplemente puedes mirar tu dispositivo Echo. «Se produce un procesamiento de visión por computadora local. No se transmite a la nube, permanece allí en el dispositivo y puede detectar cuándo diriges tu atención al dispositivo. Primero, te registras en algo llamado Visual ID, así que es una experiencia voluntaria. Luego, te configuras para que Alexa sepa quién está frente a la pantalla. Luego, si estás frente a la pantalla, Alexa nota que has prestado atención y muestra una barra de luz azul en la pantalla, y luego solo hablas.
Me pregunto cuán contradictorio sería eso. «Yo diría que lleva un poco de tiempo acostumbrarse el primer día. Al principio todavía decía Alexa, pero te deshaces de eso bastante rápido, porque es muy natural hablar de esa manera.
¿Qué pasa con la ansiedad del cliente? Cualquier precaución restante puede verse reforzada por esta cosa misteriosa llamada inteligencia artificial. ¿Qué puede hacer Amazon para aumentar la confianza?
«Creo que lo mejor que podemos hacer es adoptar el enfoque que tenemos, que es convertir la privacidad y la seguridad en una confianza profunda en la organización, que es lo que siempre hemos hecho. Desde el primer diseño del circuito electrónico se puede desactivar el micrófono. electrónicamente. Es literalmente un micrófono muerto. Cuando construyes desde Foundation De esta manera, puedes construir un marco de confianza que los clientes puedan apreciar.
Los televisores de Amazon crearán fondos de pantalla mediante inteligencia artificial. «Esperamos dotar a nuestros dispositivos de servicios realmente potentes, ese es el punto. Es una de las razones por las que tenemos un botón de Alexa en el control remoto del Fire TV, para brindarles a los clientes acceso a todo lo que Alexa puede hacer. Pero también personalizamos un conjunto de experiencias Para adaptarse a las circunstancias especiales de conexión a la televisión. La mayor parte del tiempo, más de 20 horas al día, es solo una gran pantalla en blanco. Este es un ejemplo de cómo utilizamos la inteligencia artificial generativa para los clientes. Creemos que podemos Haz que tu televisor sea útil y hermoso.
Pero Alexa hace más que eso, afirma Rausch. «En un sentido más amplio, ciertamente imaginamos a Alexa como el tejido del hogar que siempre está ahí y disponible para usted cuando desea un acceso perfecto, pero que pasa a un segundo plano cuando no lo desea, siempre trabajando en segundo plano en su nombre. Eso es la visión de la inteligencia ambiental, ese punto de inflexión”. La IA generativa que nos brinda liberará nuestra capacidad de hacer más en esta visión.
Sígueme Gorjeo.
More Stories
El código en los datos previos al entrenamiento mejora el rendimiento del LLM en tareas que no son de codificación
Un marco para resolver ecuaciones diferenciales parciales equivalentes puede guiar el procesamiento y la ingeniería de gráficos por computadora
Epiroc ha lanzado una nueva plataforma de perforación de producción de pozos largos