Se aceitarmos que neste contexto o verbo cansar tem o significado de «enfastiar-se» ou «fatigar-se», então o constituinte «de estudar» terá a função de complemento oblíquo (ou adjunto).

Nesta interpretação, o verbo cansar é transitivo indireto e rege a preposição de, que, por sua vez, tem como complemento uma oração subordinada infinitiva – ou oração reduzida  –   (estudar).

Na variante europeia do português, sentir-se-á como mais natural a construção «Fiquei cansado de estudar».

Refira-se ainda que o verbo pode ser usado como auxiliar em construções como:

(1) «Cansei-me de o mandar estudar.»

Nesta construção, o verbo auxiliar mandar «indica a ideia de insistência da ação (aspecto incoativo)» (in Dicionário Houaiss).