Перші місяці військової кампанії були позначені не надто втішним для Петра І перебігом подій, проте вже незабаром росіяни досягли значних успіхів, отримавши під свій контроль значну частину Прибалтики. Незрозумілим для Петра І залишався той факт, що шведський король Карл XII узагалі ніяк не відреагував на дії росіян, натомість зосередивши сили на війні з військами польського короля Августа II Сильного, а також з армією Данії. Але досить скоро все прояснилось. Улітку шведське військо несподівано напало на Данію, змушуючи її вийти з коаліції й укласти мирну угоду. Не знаючи про це, московські війська за наказом царя розпочали облогу шведської фортеці Нарви, що мала для Петра І надзвичайно безрадісні наслідки. У битві, яка відбулася 19 листопада 1700 року, Карл XII вщент розбив війська Петра І, що здійснювали облогу Нарви. Поразка російського війська під Нарвою була для московського царя настільки несподіваною, що вислані ним на допомогу полки українського козацтва навіть не встигли наблизитися до Нарви і прямо з дороги повернули назад, маючи тепер намір зимувати в Україні. Покінчивши так із загрозою зі сходу, Карл XII спрямував усі свої зусилля на боротьбу з польським королем Августом II.

Це дало російському монарху такий необхідний для перепочинку час. Скориставшись перепочинком, Петро І реформував армію і почав посиленими темпами готуватися до продовження війни. Наприкінці 1701 року московські війська й українські козацькі полки знову виступили на допомогу польському війську. Війна розгорілася з новою силою, а з 1703 року зусилля царя, спрямовані на зміцнення армії, таки далися взнаки — нарешті до Петра І прийшли перші успіхи на театрі бойових дій. Досить швидко він здобув Нотебург і Нієншанц, де заснував Петропавлівську фортецю. Саме цій фортеці у майбутньому судилося стати новою столицею Російської імперії — містом Санкт — Петербург. За цей час Швеція досягла значних успіхів у Польщі, примушуючи гордовиту Річ Посполиту розділити сумну долю України, що розкололася на дві половини під час Чорної ради 1663 року. Тепер саму Польщу було поділено поміж прихильниками Швеції та її супротивниками: серед польських магнатів почалася паніка, тож у той час, коли одні підтримали короля Августа II, інші перейшли на бік Швеції й обрали в 1704 році на королівський престол Станіслава Лещинського. Москва, а відповідно й залежна від неї Україна на чолі з гетьманом Мазепою підтримали Августа II Сильного.

Слід зауважити, що Північна війна, нічого не даючи Україні, коштувала їй без ліку матеріальних і моральних сил. Крім того, що в баталіях гинули козаки, задуми Петра І з будівництва все нових і нових фортець важким тягарем лягали на українське селянство. Завдавали шкоди Гетьманщині й постійні експедиції московських військ, які потребували харчів, спорядження і значних коштів. До цього додамо те, що Петро І не вважав за потрібне брати до уваги військовий устрій України, який установився тут на основі вільних козацьких звичаїв: часто українські військові частини мусили діяти під командою московських командирів і воєвод, а не власного гетьмана. Тож можна припустити, що вже тоді у Кремлі виникали думки взагалі скасувати козацькі порядки. Це засвідчують і документи, у яких згадано про бажання Петра І віддати Україну як провінцію під управління князя Меншикова, скасовуючи автономію Гетьманщини. Цілком можливо, лише війна зі Швецією на нетривалий час відсунула такий розвиток подій.

Тим часом аж ніяк не все населення України поділяло симпатії до лівобережного гетьмана Мазепи. Невдовзі на Правобережжі розпочалося повстання козацтва, спрямоване проти влади лояльного до Росії польського короля Августа II Сильного, а заразом і проти Москви та її лівобережних поплічників. Очолив повстання фастівський полковник Семен Палій. Одразу ж після початку заколоту, зв'язаний угодою з Москвою, Мазепа отримав розпорядження придушити повстання і заарештувати Палія. Розгніваний козацьким свавіллям, Петро І навіть не намагався зважити, чим був для Мазепи наказ, який фактично примушував його розпочати розбрат у козацькому таборі.

Того разу Іван Мазепа не зміг виявити непокору царському наказу. Він поквапився виконати все, поки ще не наважуючись протидіяти Москві. Увечері 31 липня 1704 року за особистим наказом гетьмана Мазепи Семен Палій, який з невеликим загоном перебував у таборі козацького війська під Бердичевом, був заарештований. Намагаючись не надто пильно слідкувати за справедливим здійсненням правосуддя, Палія звинуватили у зраді й ув'язнили в Батурині. Гетьманські війська вступили у Фастів, Корсунь і Богуслав, які до цього належали повстанцям. Після такого повороту подій повстання практично завершилося.

Не викликає сумніву, що арешт Палія і народне невдоволення, яке він за собою потягнув, були невигідні гетьману Мазепі. Але, маючи на меті поєднати Лівобережжя і Правобережжя під своєю булавою, гетьман був вимушений маневрувати серед течій внутрішньої української політики, а також політики зовнішньої — у відносинах між Москвою і Варшавою він зайняв таку позицію, яка дозволяла б пильнувати, щоб їхній союз не був зараз спрямований проти України.

Після того, як повстання під проводом Палія було придушено, усі найбільші міста Правобережжя, такі як Бар, Біла Церква, Бердичів, опинилися під контролем російських військ, і цар Петро І негайно вирішив продовжити використання гетьманського війська у війні проти Швеції. Улітку 1705 року сорокатисячна козацька армія, очолювана гетьманом Мазепою, вирушила у похід на Галичину, маючи на меті потіснити там військо Карла XII. Козацькі полки дійшли до Львова і навіть до Сандомира. Проте переможна хода козаків на цьому й скінчилась — армія Карла XII, вдруге завдавши поразки військам Августа II Сильного, вирушила походом на Литву, що викликало серед литовської знаті масовий перехід на бік шведського короля. Петро І був змушений виступити на підтримку свого союзника Августа II і вийшов із потужним шістдесятитисячним військом йому на підмогу, віддавши наказ Мазепі приєднатися до нього. Вже в березні 1706 року український гетьман приєднав свої полки до армії Петра І у районі Вільно, після чого розпочалася млява кампанія, яку вели з перемінним успіхом доти, доки Карл XII уклав із союзником російського царя Августом II сепаратний мир, що отримав назву Альтранштадтського перемир'я. Згідно з умовами цього перемир'я Август II зобов'язувався відмовитись від корони на користь Станіслава Лещинського. Неважко зрозуміти, що позиції Петра І після того, що відбулося в Альтранштадті, значно погіршились. Тепер Росія, втративши усіх своїх союзників, залишалась наодинці з потужною шведською армією та її королем — головнокомандувачем, котрий мав безліч амбітних планів щодо Прибалтики, Польщі й України. Але, схоже, Петро І поки що не думав опускати рук. Можливо, відчуваючи, що Московське царство знаходиться на підйомі, якого не відчувало дуже багато років, він сміливо продовжував бойові дії.

Але була одна деталь, якій майбутній російський імператор не надав належного значення. Значні успіхи Карла XII у Європі, перехід на його бік більшості польських урядовців і феодалів, а разом з тим втрата почуття міри Петром І у використанні козацького війська, його наступ на вольності підданих українського гетьмана — усе це змушувало Івана Мазепу та його оточення думати про те, як за відповідних обставин не стати розмінною монетою між двома силами, які несли пряму загрозу Україні. Найімовірніше, 1705–1707 роки стали у житті гетьмана Мазепи не тільки зламним у стосунках з російською владою періодом. У цей час гетьман через названі вище причини розпочав робити спроби переговорів із ворогами Петра І. Він обережно вивчав їхні плани та можливості. І цинічне поводження російської влади змусило його наприкінці 1705 року вже не так дивитися на присутність в Україні російської армії, як під час придушення повстання Семена Палія. «Якого ж нам добра впред надіятися, коли за наши вірне службы, и хтож бы был такий дурак, як я, чтоб под сее время не преклонился до противной стороны на такие пропозиции, якие Станислав Лещинский до мене прислав?» Як сповіщають історичні джерела, саме такі слова гетьман Мазепа вимовив у колі старшини, якій він довіряв. І скільки б росіяни не твердили про зраду гетьманом інтересів царя, більш правильним було б вважати зрадою бездіяльність гетьмана у час, коли російські вояки буквально грабували Україну, обурюючи козаків своєю поведінкою. І випадки такого грабунку та наруги були, на жаль, не поодинокими. В одній зі своїх історичних розвідок радянський український історик Володимир Голобуцький констатує: під час будівництва Києво — Печерської фортеці, яку споруджували за наказом Олександра Меншикова, росіяни, як говориться у полковницьких скаргах гетьману Мазепі, «козаків палицями б'ють, вуха шпагами відтинають». Крім того, гнівні скарги козацької старшини сповіщають: «козаки, покинувши свої хати, сінокоси і жнива, мучаться на царській службі від сонячної спеки, а там великоросійські люди грабують їхні хати, розбирають і палять, жінок і дочок ґвалтують, коней, худобу і всілякі пожитки забирають, старшину б'ють до смерті».