A már 1967-ben új épületbe költözött helyi gimnázium mellé, a vele közös igazgatásúvá tett középiskolai kollégium 1973. szeptember 3-án  költözhetett az idén negyvenöt éves fennállását ünneplő épületébe. Az új kollégium a régi vásártéren, a tizenhat tantermes gimnázium mellett épült, az Akócsmalmi utcában, ma Gorkij utca 3. szám alatt. Az építkezést a Győr-Sopron megyei Építőipari Vállalat egyedi tervek alapján végezte. Költségelőirányzata 11,5-12 millió forint volt, melyből a Városi Tanács 8,5 millió forinttal vette ki a részét. Az épület négy szárnyra oszlik:  az „A” épület a földszintes konyha és éttermi szárny a szolgálati lakással, a „B” épület a földszint + két emeletes fiú kollégium, a „C” épület a földszint + két emeletes leány kollégium, és a „D” épület a három épületrészt összekötő földszintes szárny. Az összesen beépített alapterület nagysága: 1600m². A kollégiumot 148 főre tervezték: 72 leány és 76 fiú részére. A lányok és fiúk háló- és tanulószobái és a kapcsolt helyiségeik külön-külön épületszárnyon nyertek elhelyezést az emeleteken. Mindkét épületszárnyat egy földszinti közös használatú előcsarnok köt össze, melynek kialakítása a lépcsőházakkal együtt reprezentatívabb kialakításúak. A hálószobákat 4 főre tervezték, úgy, hogy a hálók az előtérből nyíljanak. Az előtér egyik oldalán mosdófülke, a másik oldalán beépített szekrénysor, cipő és bőröndtárolási lehetőséggel. Ez azért volt szempont, mert a Tanács az épületet a nyári hónapokban turistaszállodaként kívánta üzemeltetni. A tanulószobák, szintenként egy-egy, 30 fő tanuló befogadására alkalmasak. Nevelői szoba szintenként egy-egy található, mindig a lépcsőházi folyosóbejáraton az első. Klubterem az egyik épületszárny földszintjén, 50-60 fő befogadására alkalmas, mely mellett 2000 kötetes könyvtár helyiség található. A tervek alapján még stúdió szoba is készült, mely egyben a hangosbemondó helyiség is. Betegszoba szárnyanként a nemek megoszlása szerint került kialakításra. Az étterem – kultúrterem, amelynek napi háromszori étkeztetés lebonyolítására kellett alkalmasnak lennie, összesen 450 fő befogadásával három turnusban, azaz egyszerre 150 fő befogadóképességgel rendelkezett, ezáltal rendezvények tartására is alkalmas. A főzőkonyha ennek megfelelően napi 450 ebéd, és 150 adag reggeli és vacsora kiszolgálását végezte. Ezen kívül még egy szolgálati lakást is beterveztek. Az épület fűtését a gimnázium kazánházából oldották meg. A szépen berendezett és 12 millió forintból megépült kollégium az ország egyik legkorszerűbb középiskolás diákotthona lett, mely nagyban elősegítette a vidéki fiatalság jó felkészülését a továbbtanuláshoz. Ezzel kialakult a város új modernkori középiskolai oktatási centruma, a Kossuth Lajos Gimnázium, Szakközépiskola és Kollégium, amely a mögötte lévő sportpályák együttesével, gazdálkodásában és irányításában is egységet alkotott.

A kollégium az 1969-ben elveszített önállóságát majd csak 2007-ben nyeri vissza, amikor Mosonmagyaróvár képviselőtestülete Városi Kollégium néven az intézményt újraalapította, egyben elhelyezést biztosított benne az Éltes Mátyás Iskola diákotthonának, később a Nevelési Tanácsadónak, majd az IMGSZ-nek. 2013-ban a középfokú oktatási intézményeket államosították, előbb fenntartásukat, majd működtetésüket is központosították. A város önkormányzata a teljes épületet 2016-ban társasházzá nyilvánította, a konyháját, az ebédlőjét és egyéb helyiségeit korszerűsítette. Állami kollégiumként az utcafront felőli pavilon működik. A győri tankerület 2018-ban belső felújítási munkálatokat végzett a kollégiumnak megmaradt épületrészben. Az intézmény, működésének 20. és 30. évfordulójára is megemlékezett, majd 2008-ban, a már önálló igazgatású kollégium 35. évfordulós ünnepséget szervezett, retro klubot alakított ki, kopjafát avatott, emléklapot és kétszáz példányban emlékkönyvet adott ki a város középiskolai kollégiumi nevelés történetéről. 2013-ban az intézményt 1956-os emlékmegőrző tevékenysége elismeréseként Gulyás Lajos (1918-1957) református lelkész, ötvenhatos mártírról nevezték el. A Gulyás Lajos Kollégium 2018. szeptember 3-ától a negyvenöt évvel ezelőtti átadás napjára hangolva nagyszabású intézménytörténeti kiállítással emlékezik az elmúlt évtizedekre. 

Simon Zsuzsanna