Vamos a explicarte qué es y cómo funciona PaLM 2, el modelo de inteligencia artificial creado por Google para Google Bard y otras de sus herramientas. Se trata de un competidor directo de GPT-4, con el que Google quiere que su sistema de chat compita con ChatGPT y ChatGPT Plus.

Vamos a empezar explicándote de una manera general qué es este modelo de lenguaje por inteligencia artificial, e intentaremos decirte cómo funciona sin que acabe siendo muy complicado, para que todos lo entiendan. Luego, te diremos algunos ejemplos de lo que puede hacer y cómo probarlo.

Qué son PaLM y PaLM 2

PaLM es un modelo de lenguaje por Inteligencia Artificial creado por Google para competir con GPT. Estos modelos son el cerebro y el corazón de los chats por IA como ChatGPT y como Google Bard, es lo que hay por dentro de la IA y que permite que realice las interacciones. Sus siglas significan Pathways Language Model, que es el nombre del modelo.

Con estos modelos, chats de inteligencia artificial como Bard son capaces de mantener una conversación contigo, de entender las frases que le dices y las peticiones que te hace, y de responderte de una manera natural y coherente. Estos modelos son los que han sido entrenados para permitir realizar estas interacciones.

PaLM es un sistema que ha sido entrenado para mantener conversaciones con cualquier persona en los idiomas en los que ha sido entrenado. Sus algoritmos analizan las palabras que le escribes, entienden su orden, su sentido e interpretan lo que quieres decir, y luego generan una respuesta basada en la información con la que ha sido entrenada.

PaLM 2 es la nueva versión del modelo de lenguaje de Google, presentado el 10 de mayo de 2023 durante el Google I/O. Se trata del modelo que utilizará a partir de ahora Google Bard, y si Google aseguraba que PaLM era tres veces superior  a GPT-3, es de esperar que esta nueva versión pueda enfrentarse directamente a GPT-4.

Otra de las características de PaLM 2 es que estará disponible en cuatro tamaños: Gecko, Otter, Bison y Unicorn. La idea es la versatilidad, teniendo un Gecko tan pequeño que puede usarse en móviles sin necesitar gran hardware, y otros que van creciendo en potencia pero también en requisitos.

Cómo funciona PaLM

Para empezar, modelos como PaLM modelos son entrenados de forma intensiva con una gran cantidad de datos. Se recopilan datos de todo Internet, y se le dan a los algoritmos de entrenamiento para que este sistema de lenguaje aprenda a entender las cosas que le digamos, tenga dentro de sí mismo la información con las respuestas, y consiga generar respuestas escritas que sean naturales.

PaLM utiliza un modelo basado en una red neuronal transformadora, lo que a menudo se conoce como transformador. Esto hace que en un nivel básico de funcionamiento, PaLM sea similar a los modelos de la competencia como los GPT de OpenAI.

Este tipo de modelos son capaces de coger nuestro lenguaje escrito y convertirlo mediante capas en un lenguaje numérico que puede “entender” la inteligencia artificial. Además de estas capas, también trabajan con una gran cantidad de parámetros para su proceso automático de aprendizaje.

Por ejemplo, PaLM utiliza el sistema de aprendizaje automático Pathways desarrollado por Google para entrenar un modelo a través de múltiples pods de unidades de procesamiento tensorial. Utiliza una técnica de que le permite aprender de un número limitado de ejemplos etiquetados, sin necesidad de grandes cantidades de ejemplos. Esto le permite adaptarse rápidamente y generalizar nuevas tareas o clases con un mínimo de datos etiquetados.

Siendo una red transformadora, PaLM es capaz de entender y crear patrones con el contenido de los prompts que le escribimos, tanto texto como código. Durante su proceso de aprendizaje, el modelo descubre patrones estadísticos y conexiones que existen entre palabras y frases dentro del contenido. Este conocimiento adquirido permite a PaLM generar respuestas coherentes y pertinentes en varios contextos.

Qué puedes hacer con este modelo de IA

Google ha asegurado que PaLM 2 ha mejorado frente a su predecesor en tres grandes áreas. Vamos, que no es solo una mejora general de todas sus habilidades, sino que además se han concentrado en hacer que tres tipos de mejoras sean sustanciales. Son las siguientes:

1. Multiidioma: PaLM 2 está entrenado con textos de distintos idiomas —más de 100, aseguran— y eso ha permitido mejorar de forma significativa su capacidad de comprender, generar y traducir textos —incluyendo modismos, poemas y acertijos—, uno de los problemas más complejos de resolver para una IA. PaLM 2 de hecho aprueba los exámenes de competencia de idioma con un nivel “maestro”, aseguran en Google.
2. Razonamiento: la diversidad protagonizada por el conjunto de datos con el que ha sido entrenado PaLM2 incluye estudios científicos y sitios web que contienen expresiones matemáticas. Eso ha permitido ganar terreno en campos como la lógica, el razonamiento de sentido común y las matemáticas.
3. Programación: También ha habido un claro enfoque a incluir código fuente para entrenar al modelo, y según Google PaLM 2 destaca a la hora de escribir código en lenguajes como Python o JavaScript, pero también puede generar código especializado en otros lenguajes como Prolog, Fortran o Verilog.

Google ha entrenado este modelo con todo tipo de fuentes, como documentos web, libros, código, matemáticas y datos conversacionales. El conjunto de datos con el que ha sido entrenado ha sido significativamente más grande que el de la versión anterior, y se han incluido muchas fuentes en otros idiomas distintos del inglés.

Con todo esto, PaLM será un especialista en idiomas y códigos, lo que le permitirá analizar fragmentos de códigos o encontrar bugs. También podrá ser un traductor mucho más avanzado que Google  Translator, pudiendo traducir expresiones populares y modismos.

PaLM 2 va a estar integrado en muchos servicios de Google, por lo que los usos que podrás hacer con él son varios. Para empezar, puedes usarlo en Bard, el chat de inteligencia artificial de Google, que mejora la capacidad de saber programar al ser uno de los puntos en los que se han centrado para mejorarlo.

El modelo también se integrará en Google Workspace, donde PaLM 2 se convertirá en un asistente permanentemente con el que podrás hacer tus trabajos más rápidos. Esto quiere decir que te ayudará a escribir textos en Gmail o Docs  pero también a otras tareas como organizar mejor los datos en Google Sheets.

El modelo también se ha aplicado al campo de la ciberseguridad a través del llamado Sec-PaLM. Se trata de una versión adaptada y especializada en ciberseguridad, que permite analizar y explicar el comportamiento de scripts potencialmente maliciosos en líneas de código, y podrá detectar los que representen una amenaza para usuarios y empresas. Algo así como un detector de scripts maliciosos.

PaLM también ha sido adaptado por Google para tener una versión adaptada a la medicina. Esta versión se ha entrado por equipos de investigación médica en Google, y se promete que pueda resumir textos médicos y contestar a muchas preguntas médicas. Incluso se está trabajando en funciones multimodales que le permitan analizar la información de radiografías o mamografías.

Cómo probar PaLM 2

La mejor manera de probar este modelo de lenguaje es utilizando Google Bard. Sin embargo, tenemos el problema de que Bard todavía no está disponible en Europa, por lo que podemos tardar en poder probarlo.

Sin embargo, en Basics te hemos explicado cómo probar Google Bard en España utilizando una VPN con la que simular que nos conectamos desde uno de los países en los que está disponible. Si lo haces, entonces podrás probar Bard en inglés y comprobar todo lo que es capaz de hacer PaLM 2.

En Ciberpro Basics | Google Bard vs ChatGPT vs Bing Chat: comparativa con 12 diferencias en lo que puedes hacer con estos chats de inteligencia artificial