„Rozhodol som sa, že ak niekedy zarobím veľké peniaze, tak ich vynaložím na to, aby chudobní chlapci mohli získať nové príležitosti. Viem, že to dlžím tomuto šľachetnému mužovi,“ odpovedal raz Carnegie na otázku, prečo sa rozhodol dať veľkú časť svojho majetku na dobročinné účely.
Ďalší zlomový moment prišiel pre čerstvo dospelého Carnegieho v roku 1853. Známy priemyselník Thomas A. Scott mu ponúkol prácu telegrafistu v jeho Pennsylvánskej železničnej spoločnosti. Carnegie v tom videl veľkú príležitosť – železnice boli v tom čase na veľkom vzostupe. Budovali sa dráhy naprieč celými Spojenými štátmi, postupne sa kolonizoval americký Západ aj Stredozápad. Aj to bol dôvod, prečo práve stavba železnice tvorila v tom čase najväčší biznis v USA a pennsylvánske spoločnosti patrili medzi hlavných hráčov na trhu.
Práve tu Andrew vôbec prvýkrát pričuchol k železiarskemu a oceliarskemu sektoru. Ten bol totiž kľúčový pre výrobu koľajníc, ale i železničných vagónov a lokomotív. Zároveň mu niekoľnonásobne stúpol plat. Takisto sa mu otvorili úplne nové možnosti v oblasti osobného rozvoja a vzdelávania. Priamo Thomas A. Scott mu dával mimoriadne cenné praktické lekcie z manažmentu a kontroly nákladov, ktoré neskôr využíval vo svojom vlastnom podnikaní.
Scott sa neskôr stal Carnegieho tútorom aj v ďalších oblastiach. Pomáhal mu napríklad v prvých biznisových. Práve vďaka nemu mohol 20-ročný Andrew realizovať svoju prvú investíciu – do dopravnej spoločnosti Adams Express vložil 500 dolárov, čo je v dnešnej hodnote zhruba 14-tisíc dolárov. Na to, aby sa táto operácia vôbec mohla uskutočniť, si Andrewova matka vzala hypotéku na dom celej rodiny.
Carnegiemu však risk vyšiel a priniesol mu prvé investičné výnosy. Jeho podiely rýchlo rástli. Orientoval sa najmä na železničný biznis. Kupoval napríklad akcie výrobcov spacích vagónov, lokomotív či prepravných spoločností, ale i železiarskych podnikov či stavebníkov ciest alebo mostov.
Budúcemu miliardárovi zároveň rýchlo pribúdali peniaze na účte, ktoré obratom investoval do nových a nových biznisov. Začal prenikať do dodávateľských reťazcov medzi železiarňami, producentami koľajníc a železničnými spoločnosťami.
Svoje biznisy postupne spájal a vytváral synergie, ktoré mu umožňovali výrazne znižovať náklady. Veľké peniaze investoval do výskumu a vývoja. Zamestnával množstvo inžinierov, ktorí skúmali, ako čo najlacnejšie produkovať čo najväčšie množstvo kvalitného železa a ocele. Vďaka novým procesom, ktoré jeho spoločnosť vyvinula, prudko poklesla cena ocele. Umožnilo to výrazné zvýšenie jej výroby a následne i budovania železnice.