如果目标是做应用，那沿用Llama结构，短平快上产品也是合理选择。但我们的目的地是AGI，这意味着我们需要研究新的模型结构，在有限资源下，实现更强的模型能力。这是scale up到更大模型所需要做的基础研究之一。除了模型结构，我们还做了大量其他的研究，包括怎么构造数据，如何让模型更像人类等，这都体现在我们发布的模型里。
梁文锋名人名言哲理格言警句语录 梁文锋
"I don't write with any audience in mind. I just write."
我写作时不会想着任何观众。我只是写。
哈罗德·品特
君知否？雁字云沉，难写伤心句。
王夫之
今天的优势会被明天的趋势取代。
张勇
人类编织出一张意义的网，并全然相信它，但这张网迟早都会解体，直到我们回头一看，实在无法想象当时怎么可能有人真心相信这样的事。
瓦尔·赫拉利
虽说北京像一片大沙漠，青年们却还向这里跑；老年们也不大走，即或有到别处去走一趟的，不久就转回来了，仿佛倒是北京还很有什么可以留恋。厌世诗人的怨人生，真是“感慨系之矣”，然而他总活着；连祖述释迦牟尼先生的哲人勗本华尔也不免暗地里吃一种医治什么病症的药，不肯轻易“涅槃”。俗语说：“好死不如恶活”，这当然不过是俗人的俗见罢了，可是文人学者之流也何尝不这样。所不同的，只是他总有一面辞严义正的军旗，还有一条尤其义正辞严的逃路。真的，倘不这样，人生可真要无聊透顶，无话可说了。
鲁迅
教育不是灌输，而是点燃火焰。
苏格拉底
与恶龙缠斗过久，自身亦成为恶龙。凝视深渊过久，深渊将回以凝视。
尼采
其实吧，我以前的色儿（皮肤）也没这么深，后来有一次吧，我推着一车煤往锅炉里送，结果跑快了，连人带车一起射进去了，亏的我腿脚快，爬出来了，然后就变成这个色儿了。
宋小宝
同类相吸。
迈克尔·劳塞尔
I've learned that you can't control everything in life, and that's okay.
我了解到你无法控制生活中的一切，这没关系。
珍妮·杰克逊
黄菊开时伤聚散。曾记花前，共说深深愿。
晏几道
我们都是时代的产物，无论好坏。
"We are all products of our time, for better or worse."
爱德华·P·琼斯
争论是俗不可耐的，因为道德社会里每个人都持完全相同的观点。
王尔德
光明磊落总有好处，尤其对那些以卖弄玄虚著称的人。
艾萨克·阿西莫夫
读书，永远不恨其晚。晚比永远不读强。
梁实秋
你想⽤卖糖⽔来度过余⽣，还是想要⼀个机会来改变世界？
史蒂夫·乔布斯
爱情只有当它是自由自在时，才会叶茂花繁，认为爱情是某种义务的思想只能置爱情于死地。
罗素
永远不要动怒，绝不要威胁，要讲道理。
马里奥·普佐
我们现在身处道德的世界之中，现在通往罪恶的大门是敞开的。伴随约定与责任一起产生的还有欺骗与谎言。一旦我们会做我们不应该做的事情，我们就会想方设法地掩饰我们不应该做却已经做了的事情。只要一己私利能让我们许下承诺，更大的一己私利就能让我们违背诺言。问题仅仅在于这么做不会受到惩罚，因为人会自然而然地补救，他可以掩饰，他可以撒谎。因为不能防止罪恶，所以我们必须对罪恶施以惩罚。人生的许多不幸就是源于罪恶造成的错误。
卢梭