Весною 1704 р. Мазепа одержав наказ Петра йти з усім своїм військом углиб Польщі, щоб підтримати союзника царя — польського короля Августа II. Польща тоді розділилася на дві партії. Значна частина магнатів перейшла на бік Станіслава Лєщинського, якого згодом Карл XII посадив на престол. 

Для Мазепи настав слушний час здійснити давній намір, свою заповітну мрію — об'єднати всю Україну під своїм проводом. З 30-тисячною козацькою армією він перейшов Дніпро, зайняв Київщину й Волинь і вирішив звідти не відступати. За проханням царя Петра й короля Августа Мазепа розправився з магнатами, прибічниками Станіслава Лєщинського, подолавши їхній збройний опір. 

Свою головну квартиру Мазепа розмістив у Бердичеві. її часто відвідував Семен Палій, якого Мазепа завжди зустрічав якнайкраще. Водночас йому було треба виправдатися перед царем Петром і королем Августом, легітимувати своє військове утвердження на Правобережжі. Щоб закріпити свій політичний успіх, лівобережний гетьман вирішив пожертвувати Палієм, хоч їх і об'єднували патріотичні почуття до України, спільна політична мета. Цар велів узяти Палія під варту і негайно відправити в Білу Церкву, замість нього полковником призначити Михайла Омельченка. 

Першого серпня Семен Палій прийшов до головної квартири Мазепи. Його прийняли бенкетом. Вночі, коли полковник міцно заснув, його схопили й силоміць вивезли до Батурина, а звідти вислали до Москви. За зв'язки з прихильником Лєщинського Любомирсьиим Палія звинуватили у шведофільстві й заслали до Сибіру. 

Деякі дослідники пояснювали усунення Палія Мазепою їхньою взаємопротилежною соціальною політикою. Мазепі не до вподоби був демократизм Палія, який встановив у своїй «палієвій державі» порядки, близькі до ладу Запорозької Січі. Крім того, він ворогував із українською шляхтою. Вважали навіть, що Мазепа вбачав у фастівському полковникові можливого суперника — претендента на гетьманську булаву. У всякому разі народна пісня засудила віроломство Мазепи щодо Палія, зробивши акцент на моральному сенсі цієї події. Палій виступає в пісні як народний герой, «козацький батько». 

У жовтні 1704 р. Мазепа, залишивши на Правобережжі козацькі загони, повернувся до Батурина як справжній володар України. Він уживав титул — «Гетьман обох сторін Дніпра». 

Менш за все висвітлено в літературі полководницьке мистецтво Івана Мазепи. Дехто з істориків навіть намагався стверджувати, що Мазепа не був добрим вояком, показав себе поганим стратегом і недосвідченим військовим керівником, ухилявся від битв, вважав за краще посилати замість себе наказних гетьманів. Однак такі твердження не відповідають дійсності. Ще в юні роки він прилучився до вивчення військової справи. Посланий королем Яном-Казимиром для навчання за кордон. Мазепа на кошти мецената краківської академії Новодворського спеціально вивчав гарматну справу у Франції і Голландії, оволодів майстерністю виробництва гармат. Товаришував з ним майбутній полковник артилерії Мартин Катський. 

Юнаком Іван Мазепа брав участь у війні зі шведами. Він добре знався на зброї, зібрав у Батуринському палаці численну й цінну її колекцію, організував у Батурині ливарню для вироблення гармат. 

На чолі однієї з кращих європейських армій того часу — козацького війська — Мазепа провів багато походів, здебільшого успішних. Наприкінці XVII ст. він писав царю: «За 12 літ з початку свого гетьманства я зробив 11 літніх і 10 зимових походів». 

Під час так званого «першого азовського походу 1695 р.» цар Петро І з 35-тисячним військом, серед якого було й кілька козацьких полків, ціле літо здобував турецьку фортецю Азов, закидавши її кільканадцятьма тисячами великих бомб, але так і не взяв її. З наближенням осінньої пори він змушений був відступити. Водночас гетьман Іван Мазепа на чолі козацького війська, до якого приєднався боярин Б. П. Шереметєв із допоміжним московським кінним і пішим військом, діяли за наказом царя в пониззі Дніпра — здобували турецьку фортецю Казикермен. 

За описом козацького літописця Самійла Величка, об'єднані війська підійшли до неї на світанку 24 липня. Гетьман наказав українським козацьким полкам і сердюкам підступити до її стін. Вони пройшли сади передмістя, розбили й загнали назад до Казикермена турецький загін, що намагався стримати натиск козаків. Неподалік від стін Казикермена козаки поробили шанці й залягли там. Шанці обставили плетеними кошами, насипаними землею, а також гарматами й мортирами, зробили таємні підкопи. Наступного ранку Мазепа наказав почати обстріл Казикермена. Упродовж п'яти днів, «невсипущо денно і нощно бито з гармат і дрібної зброї, кидано з мортир бомби». 

Спочатку з Казикермена енергійно й активно відповідали з гармат і яничарок. А потім козацькі й московські гармаші так пристрілялися, що як тільки яничари відчиняли вікна в амбразурах, їхній вогонь придушувався, знищувалася обслуга. 

Казикерменський бей обіцяв великі гроші, але ніхто з яничар не погоджувався бути пушкарем. 

Оскільки стіни фортеці були з твердого каменю й мало руйнувались (облога могла надовго затягтися), гетьман наказав своєму війську котити до казикерменських стін такий широкий і високий земляний вал, щоб ним можна було засипати рів і, порівнявшись зі стінами, вломитися в місто. Казикерменська залога намагалася обстрілювати вал, але їхні заходи були марними. Одного вечора в Казикермен було закинуто кілька десятків бомб і малих гранат, стріляли з усіх обозів. Наче від блискавки, все було освітлене в той темний вечір. Один із московських підкопів зламав казикерменську стіну. 30 червня 1695 р. через цей підкоп козаки, зірвавши башту, вдерлись у фортецю.

Розпочався рукопашний бій, який тривав близько п'яти годин. Казикермен капітулював. 

З ближньої фортеці — Мустрит-Кермен, розташованої навпроти, на дніпровому Гаванському острові, спробували обстрілювати козацькі й московські шанці та обози, але після капітуляції Казикермена, як свідчить Самійло Величко, «поклонилися й собі Низовому Запорозькому Війську, яке зі своїм кошовим отаманом Максимом промишляло, здобуваючи його, — вони припливли туди від Січі на човнах». 

З інших двох фортець — Аслам-Кермена і Муберек-Кермена, що стояли поруч, гарнізони й мешканці, покинувши великі гармати, з усім своїм майном утекли до Криму. Генерал А. Гордон, що перебував на російській службі, дав таку оцінку цій кампанії, якою керував Мазепа: «Тогорічний (1695) похід на Борисфен, де генерал Шереметєв командував разом із гетьманом Мазепою, був дуже успішний. Вони по-мистецьки заволоділи кількома містами — Газі-Керменом, Аслан-Керменом і Шингиреєм». 


У липні 1698 р. численні козацькі полки під проводом гетьмана Мазепи разом з 60-тисячним московським військом, яке очолював Долгорукий, вирушили проти турецького війська сераскерського паші й змусили його відступити за річку Буг. 

Мазепа також намагався відновити український флот на Чорноморському морі, — прислав запорожцям усякі корабельні припаси, заохочував їх до морських походів. За наказом гетьмана полтавський полковник Іван Іскра ретельно описав усі дніпрові острови, річки та урочища від порогів до моря. Але за Константинопольським миром 1700 р. з Туреччиною Петро І забезпечив собі Азов, погодившись на зруйнування недавно заснованих козаками на чолі з Мазепою фортець на Дніпрі. 

Успішно діяв Мазепа й під час Північної війни, наприклад, у 1705 р. на Червоній Русі. Того ж року козаки під проводом гетьмана зайняли Замостя. Автор «Історії русів», характеризуючи Івана Мазепу, справедливо зауважив: «в безустанній боротьбі з поляками, татарами та турками Мазепа відзначався хоробрістю, підприємливістю та всім воєнним мистецтвом». 

У 1700 р. Петро І в союзі з Данією та Польщею розпочав війну проти Швеції, намагаючись здобути Балтійське побережжя, щоб мати морську дорогу до Західної Європи. Він втягнув у війну й Україну, не рахуючись при цьому ні з укладеними нею договорами, ні з її економічним становищем, ні з політичними обставинами, ні з соціальними умовами. 

Для України царські інтереси в цій війні були далекими й чужими. За українсько-російською угодою 1654 р. московські царі ніколи раніше не використовували збройні сили України проти держав, які не виступали безпосередньо проти України та її інтересів. Україна посилала козацькі війська тільки для оборони свого краю, коли війна безпосередньо точилася біля її кордонів. Петро І змусив Івана Мазепу відправити козацькі полки на Північ, на далекі фронти Лівонії, Литви, Польщі, Саксонії. Починаючи з 1700 р., козаків приневолювали ходити рік за роком своїм коштом у ці далекі походи, брати участь у тяжкій війні в незвичних для них кліматичних умовах. Не вистачало найнеобхіднішого, навіть харчів. Кладучи свої голови заради чужої для них справи, козацтво не тільки не діставало ніякої нагороди, а ще й потрапляло під командування московських начальників, офіцерів і генералів. Козаки терпіли й страждали від насильства, беззаконня, нечуваного свавілля, жорстокості, усяких кривд і зневаження всіх Божих і людських прав. Багато козаків гинуло, а котрі й верталися, то піші, голі, скалічені. 

Цілий корпус українського війська під проводом полковника Данила Апостола діяв на півночі разом із царськими військами. Під Ерестфером у Ліфляндії вони розбили шведського генерала Шліпенбаха. Козаки захопили великі військові трофеї, але царські командири все у них відняли. Взагалі, замість вдячності, козаків пограбували — забрали всіх коней. Внаслідок цього знеможені козаки мусили пішки долати далеку дорогу додому. 

Багато козаків гинуло на примусових «канальних», землекопних, будівельних роботах, на прокладенні нових доріг, висушуванні болотяних місцевостей, копанні каналів на Півночі, куди їх зганяли тисячами й де умови праці були нестерпними. Козацький полковник Черняк так описує обстановку на Ладозі, де працювало 10 тисяч козаків. «Велике число козаків хворих і померлих знаходиться, і щораз більше множаться тяжкі хвороби — найбільше вкорінилася гарячка і опух ніг, і мруть з того, однак приставлені офіцери, незважаючи на таку нужду бідних козаків, за наказом пана бригадира Леонтьєва... б'ють їх при роботі палицями — хоч і так вони її не тільки вдень і вночі, а навіть і в дні недільні, святкові виконують — без спочину»

 Отже, повернулася з Ладоги ледве третина (до того ж багато з них покалічених) із тих 10 тисяч козаків, які працювали на Півночі. Може, з тих часів прийшли до нас гіркі слова, що «Петербург споруджений на козацьких кістках». Насправді, сповна ще не підраховано, скільки полягло козацьких голів у тих болотах, на яких побудована була нова столиця Російської імперії. 

У 1706—1707 роках сила силенна народу, передусім селян і козаків, мусила працювати коло будови нової фортеці в Києві на Печерську, оскільки цар Петро боявся приходу шведів в Україну. Козаки повинні були працювати зимою й літом під пильним оком московських наглядачів, котрі поводилися з ними брутально й немилосердно. Військовий писар Пилип Орлик, довірена особа Івана Мазепи, писав у листі: «Зачалася та робота коло фортифікації печерської, наступили переходи через українські міста до головної армії — то рекрутів, то всяких начальників. І полковники з старшиною, часто приходячи до гетьмана, з жалями оповідали, що пристави коло той фортифікаційної роботи козаків палицями по голові б'ють, уха шпагами обтинають і всяку наругу чинять. Козаки, покинувши доми свої, косовицю і жнива, зносять тяготу і спеку на службі царського величества, а там великоросійські люде доми їх грабують, розбирають, палять, жінкам і донькам їх чинять насильства, коней, худобу і всяке майно забирають, старшину б'ють смертним боєм». 

Примусові «канальні» та будівельні роботи надзвичайно знесилювали козацьке господарство — козаки мусили йти зі своїми кіньми і фуражем, харчами, одягом, зброєю. Роками вони не могли займатися власним господарством, яке занепадало, козацтво бідніло. 

Згадувані в листі Орлика «переходи» через українські міста відбувалися не лише у зв'язку з побудовою Києво-Печерської фортеці. Протягом майже усієї війни через Україну проходили московські полки й команди. Вони чинили усякі кривди, забирали в населення припаси, поводилися брутально не тільки з простими людьми, а й із старшиною. З усіх боків підіймався «плач, стогін і лемент» козацтва, селян, міщан, всього українського народу. 

Один із найбільш шанованих провідників козацтва — полковник Горленко, який командував біля Гродна допоміжним корпусом, частина котрого стояла і в Ризі, прибувши до головної гетьманської квартири, виклав скарги на свавілля московських командирів, їхнє знущання, образливе поводження з козаками й старшиною. У відповідь на це полковника зіштовхнули з коня, якого відібрали, як і в решти старшин. Коли стало відомо, що з козаків, яких вислали до Пруссії, хочуть зробити драгунів (це було замахом на вільний військовий устрій), Горленко вигукнув: «Пане гетьмане, ти, що нами проводиш, що ти думаєш про це все?» І, може, вперше гетьман відверто висловив свій осуд московській владі й натякнув на можливість іншого союзу: «От яка нагорода за нашу службу!.. Який я дурень, що відкинув пропозиції Станіслава» (Лєщинського). А цар до того ж безупинно вимагав поставляти до московської армії коней, худобу, хліб і всякі інші припаси, що також розоряло українські господарства. 

Через війну припинилась українська торгівля через балтійські порти. Взагалі, Петро І завдав страшенного удару по економіці України, фактично скасувавши вільну торгівлю. Указами царського уряду було заборонено вивозити з України будь-куди, окрім Росії, селітру — сировину для виготовлення пороху. Вугілля з Донеччини дозволялося брати лише на російські заводи. Саме в інтересах російських купців і заводчиків заборонялося ввозити в Україну з-за кордону ряд промислових виробів. Україна могла торгувати лише через віддалені та невигідні для українського купецтва порти. 

Отже, петровське «вікно в Європу» обернулося для України бідою. Вона вже не мала права користуватися давніми, традиційними для себе торговими шляхами, мусила везти свої товари через усю країну до Архангельська. 

До гетьмана доходили відомості, скарги, нарікання з усіх міст Гетьманщини на безправ'я, пограбування, знущання, наруги царських військових начальників і солдатів над українським населенням. Мазепа гостро реагував, намагався захистити свій народ, протестував, висилав десятки листів до царя, його генералів і сановників, неодноразово висловлював свої протести в розмовах, віддавав розпорядження козацькій старшині з рекомендаціями, яким чином запобігти свавіллю чужинців.

Після лівонського походу Мазепа писав цареві: «Вернувшися із служби нашої монаршої з границь Лівонських, полковники, старшина й товариство почали на мене дуже нарікати насамперед за те, що понесли такі труди й господарство своє розорили під час такого дального походу, а далі за те, що за сіно немало їх товариства побито й потоплено, й коні повідбирані, а управи, не дивлячись на всі спори, їм жодної не дано. Особливо ж вони скаржаться на те, що у Пскові забрали їхні гармати польові. Взагалі, всі говорять на мене, що я не стою за їхні права і вам, великому государю, не б'ю чолом, що такі справи робляться». 

Мазепа добився від царя проведення розслідування. Був присланий стольник Лутовінов. Але командуючий царськими військами Шереметєв так усе повернув, що козаки ще й залишилися винними. 

Особливо багато скарг надійшло на німецького найманця, царського довіреного, авантюриста Паткуля. Німці з його численного загону оточили в Познані козацький, загін, відняли у козаків коней, старшин заарештували. Козаки мусили йти пішки до Кракова, де їх побили шведи й поляки короля Лєщинського. В результаті в Україну із 1700 козаків повернулося тільки 80. Іншого разу Паткуль силою захопив коней, які були зібрані в Миргородському полку для перевезення козацької військової армати, табірного оснащення, а також хворих, і продав їх у Франкфурті. 

Незважаючи на протести, скарги та обурення, свавілля й злочини царських посіпак в Україні тривали. Особисто для Мазепи дошкульною була моральна зневага, яку він майже постійно відчував як гетьман. Цар нібито ставився до нього з великою довірою, жалував почестями. У 1700 р. Мазепа першим після Головкіна одержав найвищий орден — святого Андрія. Петро І добився для Мазепи титулу князя Священної імперії. Водночас цар не дозволяв українському гетьманові набути політичної та військової самостійності. Коли розпочалися воєнні операції, Петро І поставив Мазепу, немов звичайного генерала, а не гетьмана, під руку свого улюбленця князя Менши-кова, неука й хабарника, який прагнув дістати Україну у своє володіння. 


Проте над усім цим стояло головне. Цар Петро І проводив в Україні колоніальну політику. Уніфікуючи всі частини своєї імперії, він почав ліквідовувати особливий лад України, нищити усталені форми її управління, обмежувати старшинське самоврядування й гетьманську владу, маючи на меті їхнє остаточне скасування. У віддаленіші плани Петра І входило також і знищення збройних сил України, які він поки що використовував у своїх війнах. У 1705 р. спеціальним указом Петро І перевів козацьке військо в безпосередню компетенцію царського командування, запровадив контроль за витратами на утримання козацького війська, частково реквізував його артилерію. Цар мав намір обернути козаків на солдатів, завести в Україні рекрутчину. Як на першу спробу в 1705 р. за царським наказом два козацькі полки були відправлені до Пруссії на вишкіл, щоб зробити з них регулярні драгунські полки. 

Взагалі, Україна для Петра І була своєрідною розмінною монетою в його зовнішньо-політичних комбінаціях, козирною картою у військово-дипломатичній грі. Ціною розшматування України цар прагнув заручитися підтримкою Польщі (якій віддав Правобережжя) для спільної боротьби зі шведами. Зробивши з Гетьманщини князівство, цар мав намір віддати його англійському герцогу Мальборо, через якого сподівався втягнути у свої плани Англію, щоб вона сприяла успішним переговорам зі шведським королем Карлом XII. 

Якщо раніше Мазепа, може, й сподівався, що своєю службою царю він зуміє скористатися й витягнути Україну з руїни, зміцнивши гетьманську владу, й посприяти цим розквіту науки та культури, підйому престижу Української держави в європейському світі, її шляху до майбутньої незалежності, то згодом він почав усвідомлювати нездійсненність цих прагнень. Імперська політика Петра І, яка з перших років XVIII ст. набула особливої агресивності, спрямовувалася на те, щоб зробити з України звичайнісіньку російську провінцію, а також знищити головного носія менталітету українського народу — козацтво. П'яту частину його цар мав намір зарахувати в царські регулярні полки й розчинити в солдатській масі своєї імперії, решту ж перевести в селянство й закріпачити. 

Треба було рятувати Україну, виривати її із лещат деспота й поневолювача. Розмірковуючи над долею України, Мазепа замислювався й над власною долею. Вона була під загрозою. Можна було використати європейську політичну обстановку, яка склалася несприятливо для завойовницьких планів царя. Шведський король Карл XII переміг Данію, що разом з польським королем Августом II, який водночас був і саксонським курфюрстом, першою розпочала Північну війну в 1700 р. Данія окупувала Шлезвіг-Голштинію. Август зі своїм військом узяв у облогу Ригу. Карл XII висадився з військом у Копенгагені й примусив датського короля укласти мир і вийти з антишведської коаліції. 

Цар Петро оголосив Швеції війну 19 серпня 1700 р. і обложив 40-тисячною армією фортецю Нарву на південному березі Фінської затоки. 20 листопада шведський король на чолі восьмитисячного війська несподіваним рішучим наступом розгромив царську армію. Всі генерали і офіцери Петра І, серед яких переважали іноземці, здалися в полон. Царська армія втратила увесь обоз, артилерію, військовий скарб. 

За велінням царя 12-тисячний козацький корпус під командуванням полковника Обідовського вирушив під Нарву, але встиг дійти тільки до Пскова, коли все було скінчено. Кілька тисяч козаків, хоч вони й не воювали, загинули від голоду і холоду або повернулися в Україну скаліченими


У 1702 р. Карл XII у Лівонії подолав і третього свого ворога — польського короля Августа, прибічника царя, а, розбивши його армію, переніс військові дії в Литву. Однак Петро І, незважаючи на нищівний розгром його війська під Нарвою й поразки союзників, із непохитною рішучістю й енергією намагався продовжувати війну. Новим договором цар зміцнив свій союз з польським королем Августом. Петро готовий був іти назустріч вимогам Августа про зречення тих прав, які він іще мав на частину Правобережної України. Це викликало протести Мазепи, який різко висловився перед царем проти всяких поступок полякам коштом України. 

Нового, ще нищівнішого, розгрому військовим силам польського короля завдав Карл XII у 1702 р. Шведські війська захопили Варшаву і Краків. Багато польських магнатів перейшло на бік познанського воєводи Станіслава Лєщинського, котрий претендував на королівську корону і якого підтримували шведи. Мазепа за наказом царя змушений був у 1703 р. послати до Білорусії на підтримку креатури Петра І — Августа II велике військове з'єднання (12 тисяч козаків), очолене полковником Міклашевським. 

Сам гетьман весною 1704 р. на чолі всього свого війська (40 тисяч козаків) вирушив у Правобережну Україну для виконання наказів Петра І та Августа II приборкати магнатів — прибічників Станіслава Лєщинського. Але Іван Мазепа, зайнявши козацькими військами Київщину й Волинь, а в наступному році — Поділля й Галичину, дійшовши аж до Сандомира, здійснював, як уже зазначалося, свою давню мету, свою національну програму — об'єднання обох частин України. Фактично він став гетьманом усієї України і вживав титул — «гетьман обох сторін Дніпра». 

Водночас 17-тисячний український корпус під проводом полковників Апостола та Мировича за розпорядженням Мазепи приєднався до саксонських військ Августа й діяв разом із ними проти шведів на Познанщині. Козаки Апостола розбили шведські частини Лейбнгельма й захопили у полон 300 шведів. Козаки Мировича брали участь у здобутті Варшави. 

Однак Карл XII продовжував діяти досить успішно. Він знову розгромив військові сили Августа, а його самого вигнав із Польщі й переніс війну на територію Білорусії і Литви, а потім і Саксонії. Литовські магнати й шляхта в масі своїй переходили на бік шведів, визнаючи Станіслава Лєщинського, який третього вересня 1705 р. був проголошений польським королем. 

Цар, намагаючись затримати просування шведів, викликав Мазепу з козацьким військом. 14 тисяч козаків привів український гетьман до Мінська, де їх поставили залогою, а також у Слуцьку, Несвіжі, Ляховичах. Шведам і тут посміхнулося військове щастя. Вони взяли Несвіж, у боях за який загинув стародубський полковник Міклашевський. Після довгої облоги шведи здобули Ляховичі, де потрапив у полон переяславський полковник Мирович. 

У 1706 р. Карл XII вирішив остаточно покінчити з Августом Саським. З головними своїми військовими силами Карл вирушив до Саксонії, рідної спадщини Августа, й окупував її аж до Лейпціга. Августу нічого не залишилося, як почати переговори, в результаті яких був укладений сепаратний мир 14 вересня 1706 р. зі шведським королем. Август розірвав свій союз із Москвою, зрікся польської корони на користь Станіслава Лєщинського, увільнив своїх підданих від присяги йому на вірність. Карл XII дістав змогу повернути всі свої збройні сили проти останнього члена антишведської коаліції — царя Петра. 

Восени 1708 р. шведський король вирушив із Польщі через Литву і Білорусію на Московщину. Варто зазначити, що напередодні 1707 р. Мазепа остаточно утвердився в думці: для врятування України необхідно заздалегідь розірвати з Москвою (розгром котрої тоді здавався неминучим) і шукати забезпечення самостійності України через союз зі Швецією. Ще раніше український гетьман установив контакти зі шведським королем через довірених посередників. Робилося це з надзвичайною обережністю. Докладно передати перебіг цих подій, особливо початок, неможливо через брак достовірних історичних джерел. 

У жовтні 1705 р. спробу встановити з українським гетьманом союзні відносини зробив Станіслав Лєщинський. Його представник привіз офіційний проект союзу за підписами польського короля та канцлера. Мазепа, після допиту з тортурами, відправив цього представника разом із проектом договору в Москву. В листі до Петра він повідомляв, що вже було чотири спроби намовити гетьмана на розрив із царем. Але, запевняв гетьман царя, він «залишається непохитним, як гранітна скала, супроти всіх спокус». Насправді, Мазепі союз із польським королем був ні до чого, оскільки гетьман завжди непримиренно ставився до панування поляків в Україні. А якось у розмові з французом Балюзом, якого приймав у батуринському палаці, Мазепа заявив, що «польська корона йде за прикладом давнього Риму до занепаду». Його цікавив тільки Карл XII

Після лівонського походу Мазепа писав цареві: «Вернувшися із служби нашої монаршої з границь Лівонських, полковники, старшина й товариство почали на мене дуже нарікати насамперед за те, що понесли такі труди й господарство своє розорили під час такого дального походу, а далі за те, що за сіно немало їх товариства побито й потоплено, й коні повідбирані, а управи, не дивлячись на всі спори, їм жодної не дано. Особливо ж вони скаржаться на те, що у Пскові забрали їхні гармати польові. Взагалі, всі говорять на мене, що я не стою за їхні права і вам, великому государю, не б'ю чолом, що такі справи робляться». 

Мазепа добився від царя проведення розслідування. Був присланий стольник Лутовінов. Але командуючий царськими військами Шереметєв так усе повернув, що козаки ще й залишилися винними. 

Особливо багато скарг надійшло на німецького найманця, царського довіреного, авантюриста Паткуля. Німці з його численного загону оточили в Познані козацький, загін, відняли у козаків коней, старшин заарештували. Козаки мусили йти пішки до Кракова, де їх побили шведи й поляки короля Лєщинського. В результаті в Україну із 1700 козаків повернулося тільки 80. Іншого разу Паткуль силою захопив коней, які були зібрані в Миргородському полку для перевезення козацької військової армати, табірного оснащення, а також хворих, і продав їх у Франкфурті. 

Незважаючи на протести, скарги та обурення, свавілля й злочини царських посіпак в Україні тривали. Особисто для Мазепи дошкульною була моральна зневага, яку він майже постійно відчував як гетьман. Цар нібито ставився до нього з великою довірою, жалував почестями. У 1700 р. Мазепа першим після Головкіна одержав найвищий орден — святого Андрія. Петро І добився для Мазепи титулу князя Священної імперії. Водночас цар не дозволяв українському гетьманові набути політичної та військової самостійності. Коли розпочалися воєнні операції, Петро І поставив Мазепу, немов звичайного генерала, а не гетьмана, під руку свого улюбленця князя Менши-кова, неука й хабарника, який прагнув дістати Україну у своє володіння. 
Проте над усім цим стояло головне. Цар Петро І проводив в Україні колоніальну політику. Уніфікуючи всі частини своєї імперії, він почав ліквідовувати особливий лад України, нищити усталені форми її управління, обмежувати старшинське самоврядування й гетьманську владу, маючи на меті їхнє остаточне скасування. У віддаленіші плани Петра І входило також і знищення збройних сил України, які він поки що використовував у своїх війнах. У 1705 р. спеціальним указом Петро І перевів козацьке військо в безпосередню компетенцію царського командування, запровадив контроль за витратами на утримання козацького війська, частково реквізував його артилерію. Цар мав намір обернути козаків на солдатів, завести в Україні рекрутчину. Як на першу спробу в 1705 р. за царським наказом два козацькі полки були відправлені до Пруссії на вишкіл, щоб зробити з них регулярні драгунські полки. 

Взагалі, Україна для Петра І була своєрідною розмінною монетою в його зовнішньо-політичних комбінаціях, козирною картою у військово-дипломатичній грі. Ціною розшматування України цар прагнув заручитися підтримкою Польщі (якій віддав Правобережжя) для спільної боротьби зі шведами. Зробивши з Гетьманщини князівство, цар мав намір віддати його англійському герцогу Мальборо, через якого сподівався втягнути у свої плани Англію, щоб вона сприяла успішним переговорам зі шведським королем Карлом XII. 

Якщо раніше Мазепа, може, й сподівався, що своєю службою царю він зуміє скористатися й витягнути Україну з руїни, зміцнивши гетьманську владу, й посприяти цим розквіту науки та культури, підйому престижу Української держави в європейському світі, її шляху до майбутньої незалежності, то згодом він почав усвідомлювати нездійсненність цих прагнень. Імперська політика Петра І, яка з перших років XVIII ст. набула особливої агресивності, спрямовувалася на те, щоб зробити з України звичайнісіньку російську провінцію, а також знищити головного носія менталітету українського народу — козацтво. П'яту частину його цар мав намір зарахувати в царські регулярні полки й розчинити в солдатській масі своєї імперії, решту ж перевести в селянство й закріпачити. 

Треба було рятувати Україну, виривати її із лещат деспота й поневолювача. Розмірковуючи над долею України, Мазепа замислювався й над власною долею. Вона була під загрозою. Можна було використати європейську політичну обстановку, яка склалася несприятливо для завойовницьких планів царя. Шведський король Карл XII переміг Данію, що разом з польським королем Августом II, який водночас був і саксонським курфюрстом, першою розпочала Північну війну в 1700 р. Данія окупувала Шлезвіг-Голштинію. Август зі своїм військом узяв у облогу Ригу. Карл XII висадився з військом у Копенгагені й примусив датського короля укласти мир і вийти з антишведської коаліції. 

Цар Петро оголосив Швеції війну 19 серпня 1700 р. і обложив 40-тисячною армією фортецю Нарву на південному березі Фінської затоки. 20 листопада шведський король на чолі восьмитисячного війська несподіваним рішучим наступом розгромив царську армію. Всі генерали і офіцери Петра І, серед яких переважали іноземці, здалися в полон. Царська армія втратила увесь обоз, артилерію, військовий скарб. 

За велінням царя 12-тисячний козацький корпус під командуванням полковника Обідовського вирушив під Нарву, але встиг дійти тільки до Пскова, коли все було скінчено. Кілька тисяч козаків, хоч вони й не воювали, загинули від голоду і холоду або повернулися в Україну скаліченими. 

У 1702 р. Карл XII у Лівонії подолав і третього свого ворога — польського короля Августа, прибічника царя, а, розбивши його армію, переніс військові дії в Литву. Однак Петро І, незважаючи на нищівний розгром його війська під Нарвою й поразки союзників, із непохитною рішучістю й енергією намагався продовжувати війну. Новим договором цар зміцнив свій союз з польським королем Августом. Петро готовий був іти назустріч вимогам Августа про зречення тих прав, які він іще мав на частину Правобережної України. Це викликало протести Мазепи, який різко висловився перед царем проти всяких поступок полякам коштом України. 

Нового, ще нищівнішого, розгрому військовим силам польського короля завдав Карл XII у 1702 р. Шведські війська захопили Варшаву і Краків. Багато польських магнатів перейшло на бік познанського воєводи Станіслава Лєщинського, котрий претендував на королівську корону і якого підтримували шведи. Мазепа за наказом царя змушений був у 1703 р. послати до Білорусії на підтримку креатури Петра І — Августа II велике військове з'єднання (12 тисяч козаків), очолене полковником Міклашевським. 

Сам гетьман весною 1704 р. на чолі всього свого війська (40 тисяч козаків) вирушив у Правобережну Україну для виконання наказів Петра І та Августа II приборкати магнатів — прибічників Станіслава Лєщинського. Але Іван Мазепа, зайнявши козацькими військами Київщину й Волинь, а в наступному році — Поділля й Галичину, дійшовши аж до Сандомира, здійснював, як уже зазначалося, свою давню мету, свою національну програму — об'єднання обох частин України. Фактично він став гетьманом усієї України і вживав титул — «гетьман обох сторін Дніпра». 

Водночас 17-тисячний український корпус під проводом полковників Апостола та Мировича за розпорядженням Мазепи приєднався до саксонських військ Августа й діяв разом із ними проти шведів на Познанщині. Козаки Апостола розбили шведські частини Лейбнгельма й захопили у полон 300 шведів. Козаки Мировича брали участь у здобутті Варшави. 

Однак Карл XII продовжував діяти досить успішно. Він знову розгромив військові сили Августа, а його самого вигнав із Польщі й переніс війну на територію Білорусії і Литви, а потім і Саксонії. Литовські магнати й шляхта в масі своїй переходили на бік шведів, визнаючи Станіслава Лєщинського, який третього вересня 1705 р. був проголошений польським королем. 

Цар, намагаючись затримати просування шведів, викликав Мазепу з козацьким військом. 14 тисяч козаків привів український гетьман до Мінська, де їх поставили залогою, а також у Слуцьку, Несвіжі, Ляховичах. Шведам і тут посміхнулося військове щастя. Вони взяли Несвіж, у боях за який загинув стародубський полковник Міклашевський. Після довгої облоги шведи здобули Ляховичі, де потрапив у полон переяславський полковник Мирович. 

У 1706 р. Карл XII вирішив остаточно покінчити з Августом Саським. З головними своїми військовими силами Карл вирушив до Саксонії, рідної спадщини Августа, й окупував її аж до Лейпціга. Августу нічого не залишилося, як почати переговори, в результаті яких був укладений сепаратний мир 14 вересня 1706 р. зі шведським королем. Август розірвав свій союз із Москвою, зрікся польської корони на користь Станіслава Лєщинського, увільнив своїх підданих від присяги йому на вірність. Карл XII дістав змогу повернути всі свої збройні сили проти останнього члена антишведської коаліції — царя Петра. 

Восени 1708 р. шведський король вирушив із Польщі через Литву і Білорусію на Московщину. Варто зазначити, що напередодні 1707 р. Мазепа остаточно утвердився в думці: для врятування України необхідно заздалегідь розірвати з Москвою (розгром котрої тоді здавався неминучим) і шукати забезпечення самостійності України через союз зі Швецією. Ще раніше український гетьман установив контакти зі шведським королем через довірених посередників. Робилося це з надзвичайною обережністю. Докладно передати перебіг цих подій, особливо початок, неможливо через брак достовірних історичних джерел. 

У жовтні 1705 р. спробу встановити з українським гетьманом союзні відносини зробив Станіслав Лєщинський. Його представник привіз офіційний проект союзу за підписами польського короля та канцлера. Мазепа, після допиту з тортурами, відправив цього представника разом із проектом договору в Москву. В листі до Петра він повідомляв, що вже було чотири спроби намовити гетьмана на розрив із царем. Але, запевняв гетьман царя, він «залишається непохитним, як гранітна скала, супроти всіх спокус». Насправді, Мазепі союз із польським королем був ні до чого, оскільки гетьман завжди непримиренно ставився до панування поляків в Україні. А якось у розмові з французом Балюзом, якого приймав у батуринському палаці, Мазепа заявив, що «польська корона йде за прикладом давнього Риму до занепаду». Його цікавив тільки Карл XII

У березні 1706 р. в Білорусії чернець передав Мазепі шифроване послання близької довіреної особи княжни Дольської, в якому повідомлялося, що Карл XII направив гетьману свого листа. Через деякий час, уже в Києві, Мазепа одержав нового листа, де повідомлялося, що шведський король обіцяє підтримати Мазепу на Волині, й він може розраховувати на всю шведську армію, отже, гетьман може приступати до виконання свого плану. Незабаром йому буде надісланий договір за підписом Карла XII й Станіслава Лєщинського. 

4 липня до Києва приїхав цар з Меншиковим. Розійшлася чутка, що Карл XII іде на Україну. Цар наказав своєму улюбленцю підготувати для відсічі кінноту, а Мазепу поставив під його командування. Володар України відчув себе обр