در خانواده ای نسبتا فقیر بزرگ شد. در سال 1911 توانست بورس تحصیلی رشته «فقه اللغه» در تورین را دریافت کند. او در تورین با آنجلو تاسکا، اومبرتو تراچینی و پالمیرو تولیاتی آشنا شد. آنها نخستین بار قبل از تاسیس روزنامه کارگران اسطوره ای با نام «L’Ordine Nuovo» در 1919، در حزب سوسیالیست ایتالیا (PSI) حاضر شدند. هنگام تاسیس حزب کمونیست ایتالیا (PCI)

در 1921، گرامشی عضو کمیته مرکزی و سپس در 1924 به عنوان دبیرکل حزب کمونیست ایتالیا منصوب می شود. در آوریل همان سال، گرامشی به عنوان عضو مجلس ملی انتخاب شد. می گویند وقتی گرامشی با صدای نازک خود در جایگاه مجلس سخنرانی می کرد، بنیتو موسولینی به دقت به صحبت های او گوش می داد تا چیزی درباره این حریف سرسخت خود از دست ندهد.