Yahoo! inicialmente recibió el nombre de "Jerry's Guide to the World Wide Web" (La Guía de Jerry para la World Wide Web), pero pronto se cambió su nombre a Yahoo! Existen varias versiones sobre el origen del nombre Yahoo!: la versión real que circula en el corporativo de Yahoo! en Sunnyvale, California es que proviene del nombre de unos personajes del libro Los viajes de Gulliver de Jonathan Swift, los Yahoos. La historia cuenta que en casa de David Filo, Co-fundador de Yahoo!, el padre de éste llamaba a David y a Jerry "un par de Yahoos" por su naturaleza inquieta y éstos deciden usar el nombre Yahoo! para su portal. En el libro de Swift, un Yahoo es una criatura salvaje, sucia y de costumbres desagradables, que se parece demasiado al ser humano. Otras versiones aseguran que Yahoo! no es más que un acrónimo de "Yet Another Hierarchical Officious Oracle".

Yahoo! apareció por primera vez en el ordenador personal de Yang, "Akebono", mientras que el software y la base de datos en la máquina de Filo, "Konishiki", nombres que provienen de luchadores de sumo, deporte del cual Filo y Yang son fanáticos.

Yahoo! hizo su aparición pública en el mercado de valores de Nueva York en el índice NASDAQ el 12 de abril de 1996, vendiendo 2,6 10⁶ de acciones a 13 dólares cada una.

Conforme la popularidad de Yahoo! aumentaba, crecía la gama de servicios. Esto convirtió a Yahoo! en "el único lugar donde alguien ha de ir para encontrar cualquier cosa que busque, comunicarse con cualquier persona o comprar lo que sea". Entre los servicios que hoy Yahoo! ofrece están Yahoo! Correo, Yahoo! Messenger, Yahoo! Grupos, Yahoo! Juegos, Yahoo! Compras, Yahoo! Subastas, etc.