CK III Gimnazjum im. Króla Jana Sobieskiego zostało założone dla uczczenia dwusetnej rocznicy Wiktorii Wiedeńskiej. W 1897 r. szkoła przeniosła się do nowego budynku, zaprojektowanego przez Józefa Sarego, przy ulicy Sobieskiego 9, gdzie mieści się do dzisiaj. Podczas I wojny światowej wielu Sobieszczaków uczestniczyło w walkach, część oddała życie za ojczyznę. Po odzyskaniu przez Polskę niepodległości uczniowie ufundowali pamiątkową tablicę znajdującą się obecnie wewnątrz szkoły. Ta kontynuowała swoją działalność pod nazwą III Gimnazjum im. Króla Jana Sobieskiego. W 1906 roku gimnazjaliści założyli pierwszy klub piłkarski w Krakowie, zaś w 1923 roku – pierwszą w Krakowie sekcję hokeja na lodzie. Podczas okupacji żołnierze niemieccy spalili księgozbiór, a wszystkie cenne pomoce naukowe, które były w posiadaniu szkoły, zostały wywiezione na terytorium III Rzeszy, zaś gmach został zamieniony na biurowiec. Uczniowie kontynuowali jednak edukację na tajnych kompletach. Zaraz po opuszczeniu Krakowa przez Wehrmacht szkoła rozpoczęła swoją działalność jako pierwsza placówka oświatowa w Krakowie, swoje tymczasowe siedziby ulokowały tutaj Krakowskie Kuratorium Oświaty i Śląskie Kuratorium Oświaty, część budynku została wygospodarowana dla potrzeb Liceum im. Nowodworskiego. W 1969 r. uczniowie stworzyli Festiwal Małych Form Teatralnych, który do dzisiaj jest nieprzerwanie organizowany w Teatrze Groteska. W 1977 r. szkoła otrzymała medal Komisji Edukacji Narodowej. Na początku lat 80. II LO współtworzyło Towarzystwo Szkół Twórczych. Od 1986 r. odbywa się Turniej Wiedzy o Patronie Szkoły. W latach 1992-1993 nauczyciele II LO opracowali program nauczania języka niemieckiego, obowiązujący w całym kraju. Szkoła od początku swojego istnienia zajmuje czołowe miejsca w rankingach szkół średnich, jej uczniowie osiągają sukcesy zarówno na szczeblu krajowym (w 2006 r.: 2 laureatów i 13 finalistów; w 2007 r.: 3 laureatów i 15 finalistów olimpiad), jak i międzynarodowym – w 2006 r. na międzynarodowej olimpiadzie matematycznej uczeń II LO zajął 5. miejsce zdobywając złoty medal; osiągnięcie to powtórzył zarówno w 2007 r. jak i rok później. W 2008 roku II Liceum współorganizowało obchody 325. rocznicy Wiktorii Wiedeńskiej, a także została ukończona budowa nowej hali sportowej. Od 2009 roku szkoła jest członkiem międzynarodowego stowarzyszenia Szkoły – Partnerzy Przyszłości, skupiającego około 1000 placówek oświatowych w których nauczany jest język niemiecki.