In 1925 zag een zestienjarige jongen, Alfred Lion, een poster met de aankondiging van een concert van het Sam Wooding's Orchestra, vlakbij zijn favoriete schaatsbaan in Berlijn. Alfred had al eerder jazz gehoord, want zijn moeder had een voor die tijd behoorlijke collectie platen, en dat in Duitsland! Vooral de ritmes spraken de jonge Alfred aan. Het concert van Wooding veranderde Alfreds leven: de jazz sloeg vanaf het podium in als een bom. Een levenslange passie voor jazz was geboren. In Berlijn liep Alfred alle winkels af op zoek naar meer jazz. Met weinig succes, jazz was nog 'underground', en informatie over dit nieuwe muzikale fenomeen was moeilijk te vinden. De liefde leidde wel in 1928 tot een eerste oversteek naar de Nieuwe Wereld, naar New York, om maar dichter bij de muziek te kunnen zijn. Alfred werkte in de havens als dokwerker, en sliep 's nachts op een bankje in Central Park. Aan dit bestaan kwam een einde toen een xenofobe dokwerker Alfred aanviel, uit woede over immigranten die banen van Amerikanen inpikten. Inderdaad, zoals in de film The Gangs of New York is te zien. Alfred werd opgenomen in een ziekenhuis, en keerde terug naar Duitsland, waar de situatie aan de vooravond van het Nazi-régime steeds grimmiger werd.

In 1931 emigreerden Alfred en zijn moeder mede daarom naar Zuid-Amerika, waar hij zich als een manusje van alles een bestaan probeerde te verschaffen. Midden jaren dertig kwam hij als vertegenwoordiger van een import- en exportbedrijf weer in Amerika terecht. Jazz was inmiddels uitgegroeid tot populaire muziek. Zo rond 1938 gaven inmiddels legendarische mannen als Milt Gabler en Steve Smith, met hun respectievelijke platenmaatschappijen Commodore Records en HRS, serieuze jazzmusici een kans om met andere jazz dan verpopte mainstream te komen, die vooral door de grote platenlabels werd uitgebracht. Alfred en de auteur Max Margulis zouden een jaar later zelf voor de diepe, avontuurlijke en artistieke jazz, een platenmaatschappij oprichten. Op 23 december bezocht Alfred Lion een concert in de reeks Spirituals to Swing in de befaamde muziektempel Carnegie Hall te New York. De kracht, soul en schoonheid waarmee de boogie woogie pianovirtuozen Albert Ammons and Meade Lux Lewis het dak van de zaal swingden, bracht Alfred tot extase. Op de dag af twee weken na dit concert, bracht Alfred deze meesters op 6 januari om twee uur 's middags in een studio bijeen om plaatopnamen te maken. Alfred zorgde voor drank en voldoende eten, waardoor een bijzondere sfeer ontstond, die beide musici aanzette om het beste te geven. Ammons en Lewis namen om en om een stuk op, en eindigden de sessie met twee sprankelende duetten. Max Margulis zorgde voor de financiën, waardoor de opnamen konden worden uitgebracht. De naam van de kersverse platenmaatschappij? Blue Note. Van beide artiesten verscheen een 78-toeren plaatje, in een oplage van vijftig exemplaren per artiest. Aangezien Alfred niet op de lengte had gelet, hij liet de pianisten spelen zoals zij zelf vonden dat hun muziek moest klinken, moest hij de platen op het 12-inch formaat laten drukken, wat tot dusverre alleen voor klassieke muziek gebruikelijk was. De ovaal, hét kenmerk van het Blue Note logo, werd al bij deze eerste releases gebruikt. Nog niet blauw op wit, maar zwart op paars.

Een groot succes waren de eerste twee releases niet. Bestellingen druppelden binnen, vooral nadat er lovende recensies waren verschenen. Alfred kon zijn baantje nog niet opzeggen, maar de ervaringen waren positief genoeg om in de platenbusiness te blijven met Blue Note. In mei 1939 verscheen de eerste brochure, geschreven door Margulis, die zich liet lezen als een beginselverklaring: 'Blue Note Records is opgericht om zonder enig compromis de vrije expressie van hot jazz of swing te dienen. Elke stijl die een oorspronkelijk idee uitdraagt, is een ware en waardevolle expressie. Door betekenisvol te zijn in plaats, tijd en omstandigheid, beschikt jazz over een eigen traditie, artistieke maatstaven én een publiek dat het levend houdt. Hot jazz is om deze redenen een uitdrukking én communicatie, een muzikale en maatschappelijke uiting, en Blue Note Records stelt zich ten doel om de hartslag van de jazz bloot te leggen, en niet de sensatiebeluste en commerciële misvormingen.'

De tweede sessie onder leiding van Alfred vond plaats op 7 april 1939. Onder de naam Port of Harlem Jazzmen bracht hij een all-star kwintet bijeen. Om de intimiteit en vitaliteit van de muziek beter te pakken te krijgen, hield Alfred de sessie om half vijf 's ochtends, als de werkdag van de jazzmusici net ten einde is. Nachtelijke sessies vonden toen amper plaats. Een Blue Note traditie was geboren.

Twee maanden later hield Alfred een nieuwe Port of Harlem-opnamesessie, met als zesde muzikant Sidney Bechet. De saxofonist en klarinettist Bechet (1897 - 1959), de eerste grote solist in de geschiedenis van de jazz, speelde een belangrijke rol in de groei en bloei van het jonge Blue Note in die eerste vijftien jaar. Het fundament daarvoor werd al bij de eerste sessie gelegd. Bechets fenomenale lezing van Gershwins Summertime op sopraansax, heeft de tand des tijds doorstaan. Deze opname werd Blue Note's eerste hit.

In Duitsland was inmiddels Hitler aan de macht gekomen. Eind 1939 wist Alfreds eveneens joodse jeugdvriend Francis Wolff per boot uit Duitsland te vertrekken. Aangekomen in New York, vond hij werk bij een fotostudio. 's Nachts was hij vaak aan de zijde van Alfred te vinden. Samen leidden ze een aantal sessies die op plaat werden uitgebracht, en die nog steeds verbazingwekkend fris aandoen. Meest opvallend waren de lange geïmproviseerde solo's van pianist Earl Hines en een viertal stukken van het Edmond Hall Celeste Quartet, een formatie die 'kamerjazz' bracht, met Hall op klarinet, Charlie Christian op acoustische gitaar, Meade Lux Lewis op toetsen and Israel Crosby op contrabas. Terugblikkende in 1969, stelde Frank Wolff het volgende vast: 'In 1939 had de jazz zich zo ontwikkeld, dat een experiment als Blue Note kans van slagen had. Een groot platenkopend publiek bereikten we niet, maar dankzij onze compromisloze en non-commerciële benadering, en dankzij nogal ongewone sessies met the Port of Harlem Jazzmen en het Edmond Hall Celeste Quartet, verkregen we een goede reputatie. Op de een of andere manier ontstond een Blue Note-stijl, maar vraag me niet om die te definiëren. Ik herinner me dat werd gezegd dat Alfred en ik alleen maar opnamen en uitbrachten wat we mooi vonden, en dat is waar. Als ik het in drie woorden mag omschrijven: we namen jazz 'met een gevoel' op, jazz with a feeling.'