最初的问题
和级数、微分方程一样，变分法早期也没有和微积分区分开来，但在1727年牛顿逝世后不久，这个具有自己的特征问题和方法论的新数学分支诞生了，它意义重大，为数学物理提供了一个最重要的原理。
首先我们来看数学家引入变分法的问题。第一个问题是牛顿提出并解决的，他研究物体在水中的运动：在轴向以常速运动而使运动阻力最小的旋转曲面必须具有什么形状。他假设物体表面任何一点的流体阻力和垂直于物体表面的速度分量成正比，在书中他只给出了曲面形状的几何特征，但在1694年给David Gregory的信中给出了解法。用现代的话来说，他要选择适当的函数y(x)，使积分有最小值。这个问题（及一般变分法问题）的特点是它提出了一个积分，它的值依赖于被积函数中出现的未知函数，而且要确定这个未知函数使积分达到极大或极小。牛顿在解法中引入子午线弧y(x)的部分形状改变的思想是变分法的本质，不过他没有用变分法的典型技巧，他认为这类问题在船舶建造中很有用武之地。
1696年6月约翰伯努利向全体数学家发起挑战，提出了著名的最速降线问题，即求一条曲线使一质点从给定点下滑到下方另一点（不在给定点垂直下方）所用时间最短，也就是要使表示下降时间的积分J取最小值，伽利略曾错误认为是圆弧，正确答案是连接两点的上凹的旋轮线。
牛顿、莱布尼茨、洛必达、约翰伯努利、詹姆斯伯努利都求出了正解，发表在1697年的《教师学报》上。约翰伯努利的方法是看出最速下降路径和光线在具有变折射率的介质中的路径一致，已知在不同介质交界面处的折射定律（斯涅耳定律），约翰把介质分为有限个数的层，然后让层趋于无穷。詹姆斯的方法更加几何法，也更一般化，是变分法的一大步。旋轮线因惠更斯的摆线研究而闻名，当伯努利兄弟发现旋轮线是最速降线的解时也备感惊奇。
还有一类是测地线问题，即曲面上两点间长度最短的路径。测地线的早期工作没有用到变分法，但特殊方法不足以解决一般的测地线问题。
在分析上，前面提出的问题形式都属于，寻找y(x)使J为极大或极小。17世纪末变分法出现了另一类问题：等周问题，早在希腊时期就有类似的问题，在给定周长的所有封闭平面曲线中求一条曲线使面积最大，有个故事说古代腓尼基城邦推罗国的公主Dido为避免被兄长皮格马利翁杀死，逃往北非的地中海沿岸，当地酋长只允许她购买一张牛皮可覆盖的土地。她下令将牛皮切成细条，圈出了一大片靠海的土地，传说Dido认为牛皮总长应围成一个半圆。自芝诺多罗斯（生卒年份不详，在BC200-AC100之间，Theon和Pappus曾提到其工作）之后，一直到17世纪末，等周问题都没有什么进展。1697年詹姆斯伯努利提出了一个包含几种情形的复杂等周问题挑战他的弟弟，詹姆斯甚至愿意给约翰50个金币作为完满解的奖励。约翰给了几种解法，但都是错误的，詹姆斯给了一个正确答案，二人争论不休，1718年约翰改进了哥哥的解法。
分析地说，等周问题是这样提出的，首先用参数表示容许曲线，确定曲线参数使弧长L等于给定常数，而且使面积积分J取极大值。这类等周问题有两个新特征，一是利用参数表示曲线，二是出现了L必须为常数的辅助条件。
1697年詹姆斯还提出了另一类问题：一个质点从给定点P1以初速度v1沿曲线滑向一条直线l的任一点，求曲线形状使所用时间最短。这个问题的不同之处是容许曲线不是从固定点到固定点，而是从固定点到直线，他次年发表了答案，是一条与直线l正交的旋轮线（1697年约翰解出来但没发表），后来这个问题推广到l是任意给定的曲线，给定点P1改成给定的另一曲线，这类问题称为“具有变动端点的问题”。
