sigmoidal回归与scipy，numpy，python等

4 回答

• 2

  使用scipy.optimize.leastsq：

  import numpy as np
  import matplotlib.pyplot as plt
  import scipy.optimize
  
  def sigmoid(p,x):
      x0,y0,c,k=p
      y = c / (1 + np.exp(-k*(x-x0))) + y0
      return y
  
  def residuals(p,x,y):
      return y - sigmoid(p,x)
  
  def resize(arr,lower=0.0,upper=1.0):
      arr=arr.copy()
      if lower>upper: lower,upper=upper,lower
      arr -= arr.min()
      arr *= (upper-lower)/arr.max()
      arr += lower
      return arr
  
  # raw data
  x = np.array([821,576,473,377,326],dtype='float')
  y = np.array([255,235,208,166,157],dtype='float')
  
  x=resize(-x,lower=0.3)
  y=resize(y,lower=0.3)
  print(x)
  print(y)
  p_guess=(np.median(x),np.median(y),1.0,1.0)
  p, cov, infodict, mesg, ier = scipy.optimize.leastsq(
      residuals,p_guess,args=(x,y),full_output=1,warning=True)  
  
  x0,y0,c,k=p
  print('''\
  x0 = {x0}
  y0 = {y0}
  c = {c}
  k = {k}
  '''.format(x0=x0,y0=y0,c=c,k=k))
  
  xp = np.linspace(0, 1.1, 1500)
  pxp=sigmoid(p,xp)
  
  # Plot the results
  plt.plot(x, y, '.', xp, pxp, '-')
  plt.xlabel('x')
  plt.ylabel('y',rotation='horizontal') 
  plt.grid(True)
  plt.show()
  

  产量

  

  用sigmoid参数

  x0 = 0.826964424481
  y0 = 0.151506745435
  c = 0.848564826467
  k = -9.54442292022
  

  请注意，对于较新版本的scipy（例如0.9），还有scipy.optimize.curve_fit函数，它比 leastsq 更容易使用 . 有关使用 curve_fit 拟合sigmoids的相关讨论可以在here找到 .

  编辑：添加了一个 resize 函数，以便可以重新调整原始数据并将其移动以适合任何所需的边界框 .

  ---

  “你的名字似乎弹出作为scipy文档的作者”

  免责声明：我不是scipy文档的作者 . 我只是一个用户，也是一个新手 . 我所知道的关于 leastsq 的大部分内容来自阅读this tutorial，由Travis Oliphant撰写 .

  1.）leastsq（）是否调用residuals（），然后返回输入y-vector和sigmoid（）函数返回的y-vector之间的差异？

  是!究竟 .

  如果是这样，它如何解释输入y向量和sigmoid（）函数返回的y向量的长度差异？

  长度是一样的：

  In [138]: x
  Out[138]: array([821, 576, 473, 377, 326])
  
  In [139]: y
  Out[139]: array([255, 235, 208, 166, 157])
  
  In [140]: p=(600,200,100,0.01)
  
  In [141]: sigmoid(p,x)
  Out[141]: 
  array([ 290.11439268,  244.02863507,  221.92572521,  209.7088641 ,
          206.06539033])
  

  其中一个Numpy的精彩之处在于它允许您编写在整个阵列上运行的“矢量”方程式 .

  y = c / (1 + np.exp(-k*(x-x0))) + y0
  

  可能看起来它适用于浮点数（实际上它会）但是如果你使 x 为一个numpy数组，并且 c ， k ， x0 ， y0 浮点数，那么等式将 y 定义为与 x 形状相同的numpy数组 . 所以 sigmoid(p,x) 返回一个numpy数组 . 有关如何在numpybook中工作的更完整的解释（严肃的numpy用户必读） .

  2.）看起来我可以为任何数学方程式调用leastsq（），只要我通过残差函数访问该数学方程式，而残差函数又调用数学函数 . 这是真的？

  真正 . leastsq 尝试最小化残差平方和（差异） . 它搜索参数空间（ p 的所有可能值），寻找 p ，最小化该平方和 . 发送到 residuals 的 x 和 y 是原始数据值 . 他们是固定的 . 他们不希望 p s（sigmoid函数中的参数） leastsq 试图最小化 .

  3.）另外，我注意到p_guess具有与p相同数量的元素 . 这是否意味着p_guess的四个元素分别对应于x0，y0，c和k返回的值？

  正是如此！像牛顿的方法一样， leastsq 需要 p 的初始猜测 . 您将其提供为 p_guess . 当你看到

  scipy.optimize.leastsq(residuals,p_guess,args=(x,y))
  

  你可以认为作为最小化算法（实际上是Levenburg-Marquardt算法）的一部分作为第一遍，最小规则调用 residuals(p_guess,x,y) . 注意之间的视觉相似性

  (residuals,p_guess,args=(x,y))
  

  和

  residuals(p_guess,x,y)
  

  它可以帮助您记住 leastsq 的参数的顺序和含义 .

  residuals ，像 sigmoid 一样返回一个numpy数组 . 数组中的值是平方的，然后求和 . 这是要击败的数字 . 然后 p_guess 会变化，因为 leastsq 会查找一组最小化 residuals(p_guess,x,y) 的值 .

  4.）作为参数发送到残差（）和sigmoid（）的p是否与由leastsq（）输出的p相同，而且minimalsq（）函数在返回之前在内部使用该p？

  好吧，不完全是 . 如您所知， p_guess 随着 leastsq 搜索最小化 residuals(p,x,y) 的 p 值而变化 . 发送到 leastsq 的 p （呃， p_guess ）与 leastsq 返回的 p 具有相同的形状 . 显然，值应该是不同的，除非你是一个猜测者的地狱:)

  5.）p和p_guess可以有任意数量的元素，这取决于用作模型的方程的复杂性，只要p中的元素数等于p_guess中的元素数量？

  是 . 我没有对非常大量的参数进行压力测试 leastsq ，但它是一个非常强大的工具 .

  回复于 2024-05-03T16:32:06+08:00
• 35

  我不认为你会得到任何程度的多项式拟合得到好的结果 - 因为所有多项式对于足够大和小的X都会变为无穷大，但是S形曲线将渐近地在每个方向上接近某个有限值 .

  我知道numpy是否有更通用的曲线拟合程序 . 如果你必须自己动手，也许这篇文章在Logistic regression上会给你一些想法 .

  回复于 2024-05-03T16:32:06+08:00
• 0

  对于Python中的逻辑回归，scikits-learn公开了高性能拟合代码：

  http://scikit-learn.sourceforge.net/modules/linear_model.html#logistic-regression

  回复于 2024-05-03T16:32:06+08:00
• 1

  正如@unutbu上面指出的那样 scipy 现在提供scipy.optimize.curve_fit，它拥有一个不太复杂的呼叫 . 如果有人想要快速了解相同过程在这些术语中的样子，我将在下面给出一个最小的例子：

  def sigmoid(x, k, x0):
  
      return 1.0 / (1 + np.exp(-k * (x - x0)))
  
  # Parameters of the true function
  n_samples = 1000
  true_x0 = 15
  true_k = 1.5
  sigma = 0.2
  
  # Build the true function and add some noise
  x = np.linspace(0, 30, num=n_samples)
  y = sigmoid(x, k=true_k, x0=true_x0) 
  y_with_noise = y + sigma * np.random.randn(n_samples)
  
  # Sample the data from the real function (this will be your data)
  some_points = np.random.choice(1000, size=30)  # take 30 data points
  xdata = x[some_points]
  ydata = y_with_noise[some_points]
  
  # Fit the curve
  popt, pcov = curve_fit(return_sigmoid, xdata, ydata)
  estimated_k, estimated_x0 = popt
  
  # Plot the fitted curve
  y_fitted = sigmoid(x, k=estimated_k, x0=estimated_x0)
  
  # Plot everything for illustration
  fig = plt.figure()
  ax = fig.add_subplot(111)
  ax.plot(x, y_fitted, '--', label='fitted')
  ax.plot(x, y, '-', label='true')
  ax.plot(xdata, ydata, 'o', label='samples')
  
  ax.legend()
  

  结果如下图所示：

  

  回复于 2024-05-03T16:32:06+08:00