Published September 28, 2026 | Version v1

For a Function That Is Not Convex, Where You Start Decides the Answer ── f(x)=x^4-3x^2+0.5x has a left minimum at -1.264459 (f=-2.872457) and a right minimum at 1.180734 (f=-1.648425), with a maximum between at 0.083725 ── the separator is whether the second derivative is positive everywhere or negative somewhere ── [Paper 771]

Authors/Creators

Description

Gradient descent seeks a minimum by walking downhill. If the landscape is a single valley, every start reaches the same bottom. When there are two valleys, how much the start decides the destination is counted. No new theorem or law is claimed.

Scope of this paper (scope note): No new theorem or law is claimed──that local minima of convex functions are global, that for non-convex functions the destination of gradient descent is set by the basin of attraction of the start, and that the basin boundary is a maximum are all known (Boyd and Vandenberghe 2004, Nocedal and Wright 2006). One dimension──only functions of one variable are considered; multidimensional landscapes with saddles are not treated. One method──only plain gradient descent with step 0.01 is used; stochastic methods, momentum and divergence at large steps are not treated. Uniform starts──1001 equally spaced points on [-2,2] are the starts. No real problem is claimed──particular learning or optimisation problems are not treated. Relation to earlier papers: Paper 734 showed that what caps the step size is not the size of the gradient but the curvature in the steepest direction──its scope note stated that it was limited to quadratic functions and would not treat non-convex surfaces or saddles. There every start reached the same point. Here, on a non-convex surface, nearly half the starts reach a bottom that is not the global minimum. Paper 507 is also cited──there a convex function returned to itself after two transforms. Here a convex function sends every start to one point, and a non-convex one lets the start split the answer. What is added is tabulating stationary points with the signs of their second derivatives, counting the destinations of 1001 starts and checking them against the position of the maximum, showing that for a convex function the spread stays at 1.027x10^-15, and placing the separator on whether the second derivative turns negative somewhere.

First, a non-convex function has two bottoms──a left minimum at -1.264459 and a right minimum at 1.180734, with a maximum at 0.083725 between (Section 2).

Second, the two bottoms differ in depth──f is -2.872457 on the left and -1.648425 on the right; the global minimum is on the left (Section 2).

Third, and this is the core. The start splits the destination, and nearly half reach the shallower bottom──of 1001 starts, a share 0.520480 goes left and 0.479520 right (Section 3).

Fourth, the boundary is set by the position of the maximum──the formula gives 0.520931, differing from the grid share by 0.000452 (Section 3).

Fifth, if convex, the start does not matter──all 1001 points reach -0.226699, with a spread of 1.027x10^-15 (Section 3).

Sixth, the separator is whether the second derivative is positive everywhere or negative somewhere──"the minimum was found by gradient descent" does not say which minimum until one says whether the function is convex (Section 4).

For a function that is not convex, where you start decides the answer. f(x)=x^4-3x^2+0.5x has a left minimum at -1.264459 (f=-2.872457) and a right minimum at 1.180734 (f=-1.648425), with a maximum at 0.083725 between──the global minimum is on the left. Descending from 1001 points on [-2,2] splits them 0.520480 left and 0.479520 right, so nearly half reach the shallower bottom; the boundary is set by the maximum, the formula share 0.520931 differing from the grid by 0.000452──gradient descent does not know which bottom is deeper. For the convex x^4+x^2+0.5x all 1001 points reached -0.226699, with a spread of 1.027x10^-15. The separator is whether the second derivative is positive everywhere or negative somewhere──"the minimum was found by gradient descent" does not say which minimum until one says whether the function is convex. Placed among the earlier papers──Paper 734 kept to quadratics and set non-convex surfaces aside; this counts, beyond that, the start splitting the destination. To be honest──only one-dimensional functions are considered, with no saddles, stochastic methods or real problems.

On the making of this work: The ideas and content of this work stem from the author's own considerations. Assistance from an AI (a large language model) was used for structuring, English translation, and checking the algebra. Any remaining errors or misinterpretations are solely the author's. Feedback and corrections are sincerely appreciated.

Keywords: convexity, local minimum, gradient descent, dependence on the start, basin of attraction, global minimum.

-----

勾配降下は、坂を下って最小を探す。坂が一つの谷なら、どこから下りても同じ底に着く。谷が二つあるとき、始点が行き先をどれだけ決めるかを数える。新しい定理も法則も主張しない。

本稿の射程(射程注記):新しい定理も法則も主張しない──凸関数では局所最小が大域最小であること、凸でない関数では勾配降下の行き先が始点の引き込み領域で決まること、その境が極大であることは、いずれも既知である(ボイド&ヴァンデンベルグ 2004、ノセダル&ライト 2006)。一次元に限る──一変数の関数だけを見て、鞍点のある多次元の面は扱わない。手法を限る──刻み 0.01 の素朴な勾配降下だけを使い、確率的な方法、運動量、大きな刻みでの発散は扱わない。始点を一様に置く──[-2,2] に等間隔に置いた 1001 点を始点とする。実在の問題を主張しない──個別の学習問題や最適化問題は扱わない。既刊との関係:論文734 は、歩幅の天井を決めているのが勾配の大きさではなく、いちばん急な向きの曲率であることを示した──その射程注記は「二次関数に限る──非凸な面、鞍点…は扱わない」と明記していた。そこではどこから始めても同じ一点に着いた。ここでは凸でない面の上で、始点のほぼ半分が大域の最小でない底に着く。論文507 も引く──そこでは凸関数なら変換を二回して元に戻った。ここでは凸なら始点に依らず一点に着き、凸でなければ始点が答を分ける。加えたのは、停留点と二階微分の符号を並べたこと、1001 の始点の行き先を数え、極大の位置の式と照らしたこと、凸な関数でばらつきが 1.027x10^-15 に収まることを示したこと、分離子を「二階微分が負になるところがあるか」に置いたことである。

第一に、凸でない関数には、底が二つある──左の極小 -1.264459 と右の極小 1.180734、あいだに極大 0.083725(第2節)。

第二に、二つの底の深さは違う──f は左で -2.872457、右で -1.648425 で、大域の最小は左(第2節)。

第三に、これが本稿の芯である。始点が行き先を分け、ほぼ半分が浅い底に着く──1001 点のうち左へ 0.520480、右へ 0.479520(第3節)。

第四に、境を決めているのは極大の位置である──式の割合 0.520931 と、格子の割合との差は 0.000452(第3節)。

第五に、凸なら、始点は答に効かない──1001 点すべてが -0.226699 に着き、ばらつきは 1.027x10^-15(第3節)。

第六に、分離子は、二階微分がどこでも正か、負になるところがあるかである──「勾配降下で最小を求めた」は、関数が凸かを言うまで、どの最小かが決まらない(第4節)。

凸でない関数では、どこから始めたかが答を決める。 f(x)=x^4-3x^2+0.5x には左の極小 -1.264459(f=-2.872457)と右の極小 1.180734(f=-1.648425)があり、あいだに極大 0.083725 が立つ──大域の最小は左である。[-2,2] の 1001 点から勾配降下すると、左へ 0.520480、右へ 0.479520 に分かれ、始点のほぼ半分が浅い底に着く。境は極大の位置が決め、式の割合 0.520931 と格子の差は 0.000452 だった──勾配降下は、どちらの底が深いかを知らない。凸な x^4+x^2+0.5x では 1001 点すべてが -0.226699 に着き、ばらつきは 1.027x10^-15 だった。分離子は、二階微分がどこでも正か、負になるところがあるかである──「勾配降下で最小を求めた」は、関数が凸かを言うまで、どの最小かが決まらない。既刊との位置──論文734 は二次関数に限り非凸な面を扱わないと明記した。ここはその外で、始点が行き先を分けることを数えた。正直に言えば──一次元の関数だけで、鞍点も確率的な方法も実在の問題も扱っていない。

作成にあたって:本稿の着想と内容は、著者自身の考察に基づくものです。文章の構成整理や英訳、数式の確認には AI(大規模言語モデル)の助力を得ました。最終的な内容の解釈や誤りがあれば、それらはすべて著者の責に帰します。お気づきの点があれば、ご教示いただければ幸いです。

キーワード:凸性、局所最小、勾配降下、初期値依存、引き込み領域、大域最小。

Files

yamagishi_771_for_a_nonconvex_function_the_start_decides_20260929_en.pdf

Additional details

Additional titles

Translated title (Japanese)
凸でない関数では、どこから始めたかが答を決める ── f(x)=x^4-3x^2+0.5x は左の極小 -1.264459(f=-2.872457)と右の極小 1.180734(f=-1.648425)を持ち、あいだの極大は 0.083725 ── 分離子は、二階微分がどこでも正か、負になるところがあるか ── [論文771]